Сравнение двух моделей deepseek-r1 с двумя базовыми
DeepSeek’s первая генерация моделей рассуждений с производительностью, сопоставимой с OpenAI-o1, включает шесть плотных моделей, дистиллированных на основе Llama и Qwen.
Обновлённый список команд Ollama: ls, ps, run, serve и другие
Эта [шпаргалка по CLI Ollama](https://www.glukhov.org/ru/llm-hosting/ollama/ollama-cheatsheet/ “Шпаргалка по CLI Ollama — самые полезные команды с примерами”) посвящена командам, которыми вы пользуетесь каждый день (ollama ls, ollama serve, ollama run, ollama ps, управление моделями и типовые рабочие процессы), с примерами, которые можно копировать и вставлять.
Следующий раунд тестирования LLM
Недавно был выпущен Mistral Small. Давайте посмотрим, как он справляется в сравнении с другими языковыми моделями (тестирование производительности Mistral Small).
Python-код для переранжирования в RAG
Пересортировка — это второй этап в системах генерации с расширением поиска (RAG) системы, расположенный между этапом извлечения и генерации.
Так много моделей с миллиардами параметров…
Тестирование, как Perplexica работает с различными LLM, запущенными на локальном Ollama: Llama3, Llama3.1, Hermes 3, Mistral Nemo, Mistral Large, Gemma 2, Qwen2, Phi 3 и Command-r различных квант и выбор Лучший LLM для Perplexica
Сравнение двух саморазмещённых поисковых систем на базе ИИ
Вкусная еда доставляет удовольствие и глазам. Однако в этой статье мы сравним две системы поиска на базе ИИ: Farfalle и Perplexica.
Запускаете сервис в стиле Copilot локально? Легко!
Это очень увлекательно! Вместо того чтобы вызывать Copilot или perplexity.ai и рассказывать всему миру, что вы ищете, теперь вы можете развернуть аналогичный сервис на своем собственном ПК или ноутбуке!
Тестирование обнаружения логических ошибок
Недавно мы увидели несколько новых языковых моделей, которые были выпущены. Возбуждающие времена. Давайте протестируем и посмотрим, как они работают при обнаружении логических ошибок.
Выбор невелик, но всё же....
Когда я начал экспериментировать с LLM, их интерфейсы находились в активной стадии разработки, и теперь некоторые из них стали действительно хорошими.
Требует некоторого экспериментирования, но
Есть ещё несколько общепринятых подходов к написанию хороших промптов, чтобы LLM не запуталась, пытаясь понять, чего вы хотите от неё.
8 версий LLM llama3 (Meta+) и 5 версий phi3 (Microsoft)
Исследование поведения моделей с разным количеством параметров и квантования.
Файлы моделей LLM в Ollama занимают много места.
После установки Ollama лучше сразу перенастроить Ollama, чтобы хранить их в новом месте. Таким образом, после загрузки новой модели она не будет скачиваться в старое расположение.
