Тестирование, как Perplexica работает с различными LLM, запущенными на локальном Ollama: Llama3, Llama3.1, Hermes 3, Mistral Nemo, Mistral Large, Gemma 2, Qwen2, Phi 3 и Command-r различных квант и выбор Лучший LLM для Perplexica

Вкусная еда доставляет удовольствие и глазам. Однако в этой статье мы сравним две системы поиска на базе ИИ: Farfalle и Perplexica.

Мы можем написать функцию lambda для развертывания на AWS на нескольких языках. Давайте сравним производительность (почти пустых) функций, написанных на JavaScript, Python и Golang…

Это очень увлекательно! Вместо того чтобы вызывать Copilot или perplexity.ai и рассказывать всему миру, что вы ищете, теперь вы можете развернуть аналогичный сервис на своем собственном ПК или ноутбуке!

Недавно мы увидели несколько новых языковых моделей, которые были выпущены. Возбуждающие времена. Давайте протестируем и посмотрим, как они работают при обнаружении логических ошибок.

Есть ещё несколько общепринятых подходов к написанию хороших промптов, чтобы LLM не запуталась, пытаясь понять, чего вы хотите от неё.

Я пробовал разные инструменты и пришел к выводу, что Floccus нравится мне больше всего.

Иногда это нужно, но найти не сразу. Поэтому держу их все здесь.

Когда я обучал модель детектора объектов AI несколько лет назад - LabelImg был очень полезным инструментом, но экспорт из Label Studio в формат COCO не принимался фреймворком MMDetection..

Исследование поведения моделей с разным количеством параметров и квантования.

После установки Ollama лучше сразу же перенастроить Ollama для хранения их в новом месте. Таким образом, после загрузки новой модели она не будет скачиваться в старое расположение.

Вы можете установить плагин или дополнение для блокировки рекламы в браузере для Google Chrome, Firefox или Safari, но вам придется делать это на каждом устройстве.
Сетевой блокировщик рекламы — мой любимый вариант решения.

После клонирования git-репозитория выполните настройку локального репозитория, особенно укажите имя пользователя и адрес электронной почты.

Когда сайт сгенерирован с помощью Hugo, пора развернуть его на платформе хостинга. Ниже приведена инструкция по загрузке сайта в AWS S3 и обслуживанию через CDN AWS CloudFront.

Сравнение скорости предсказания нескольких версий ЛЛМ: llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (открытый исходный код) на CPU и GPU.

Здесь я сравниваю несколько версий LLM: Llama3 (Meta), Phi3 (Microsoft), Gemma (Google), Mistral Nemo (Mistral AI) и Qwen (Alibaba).