Тестирование, как Perplexica работает с различными LLM, запущенными на локальном Ollama: Llama3, Llama3.1, Hermes 3, Mistral Nemo, Mistral Large, Gemma 2, Qwen2, Phi 3 и Command-r различных квант и выбор Лучший LLM для Perplexica

Великолепная еда — это удовольствие для глаз тоже.
Но в этом посте мы сравним две AI-системы поиска, Farfalle и Perplexica.

Мы можем написать функцию lambda для развертывания на AWS на нескольких языках. Давайте сравним производительность (почти пустых) функций, написанных на JavaScript, Python и Golang…

Это очень вдохновляет!
Вместо того чтобы вызывать copilot или perplexity.ai и рассказывать всему миру, что вы ищете,
теперь вы можете развернуть подобную службу на своем собственном ПК или ноутбуке!

Когда я начал экспериментировать с LLM, интерфейсы для них находились в активном разработке, и теперь некоторые из них действительно хороши.

Недавно мы наблюдали выход нескольких новых LLM. Возбуждающие времена. Давайте протестируем и увидим, как они справляются с обнаружением логических ошибок.

Есть ещё несколько общепринятых подходов к написанию хороших промптов, чтобы LLM не запуталась, пытаясь понять, чего вы хотите от неё.

Я попробовал разные инструменты и пришёл к выводу, что предпочитаю floccus больше всего.

Sometimes need this but can’t find rightaway. So keeping them all here.

Когда я обучал модель детектора объектов AI несколько лет назад - LabelImg был очень полезным инструментом, но экспорт из Label Studio в формат COCO не принимался фреймворком MMDetection..

Тестирование поведения моделей с разным количеством параметров и квантования.

После установки ollama лучше сразу переустановить ollama, чтобы хранить модели в новом месте. Таким образом, при загрузке новой модели она не будет скачиваться в старое расположение.

Вы можете установить плагин или дополнение для блокировки рекламы в браузере для Google Chrome, Firefox или Safari, но вам придется делать это на каждом устройстве.
Сетевой блокировщик рекламы — мой любимый вариант решения.

После клонирования git-репозитория выполните настройку локального репозитория, особенно укажите имя пользователя и адрес электронной почты.

Когда сайт сгенерирован с помощью hugo, пришло время разместить его на каком-либо хостинг-платформе.
Вот как загрузить его на AWS S3 и обеспечить обслуживание через AWS CloudFront CDN.