Шпаргалка по Ollama
Скомпилировал этот список команд Ollama некоторое время назад...
Вот список и примеры самых полезных команд Ollama (шпаргалка по командам Ollama), которые я собрал некоторое время назад. Надеюсь, это будет полезно и вам тоже.
Эта шпаргалка по Ollama сосредоточена на командной строке, управлении моделями и настройке.
Установка
- Вариант 1: Скачать с сайта
- Посетите ollama.com и скачайте установщик для вашей операционной системы (Mac, Linux или Windows).
- Вариант 2: Установка через командную строку
- Для пользователей Mac и Linux используйте команду:
curl https://ollama.ai/install.sh | sh
- Следуйте инструкциям на экране и введите пароль, если потребуется.
- Для пользователей Mac и Linux используйте команду:
Системные требования
- Операционная система: Mac или Linux (версия для Windows в разработке)
- Оперативная память (RAM): минимум 8ГБ, рекомендуется 16ГБ или больше
- Место на диске: не менее 10ГБ свободного места (файлы моделей могут быть очень большими, подробнее Перемещение моделей Ollama на другой диск)
- Процессор: относительно современный CPU (последние 5 лет).
Основные команды CLI Ollama
Команда | Описание |
---|---|
ollama serve |
Запускает Ollama на вашем локальном компьютере. |
ollama create <new_model> |
Создает новую модель на основе существующей для настройки или обучения. |
ollama show <model> |
Отображает детали о конкретной модели, такие как ее конфигурация и дата выпуска. |
ollama run <model> |
Запускает указанную модель, делая ее готовой для взаимодействия. |
ollama pull <model> |
Загружает указанную модель на ваш компьютер. |
ollama list |
Перечисляет все загруженные модели. То же самое, что и ollama ls |
ollama ps |
Показывает текущие запущенные модели. |
ollama stop <model> |
Останавливает указанную запущенную модель. |
ollama rm <model> |
Удаляет указанную модель из вашей системы. |
ollama help |
Предоставляет справку о любой команде. |
Управление моделями
-
Загрузка модели:
ollama pull mistral-nemo:12b-instruct-2407-q6_K
Эта команда загружает указанную модель (например, Gemma 2B или mistral-nemo:12b-instruct-2407-q6_K) на ваш компьютер. Файлы моделей могут быть довольно большими, поэтому следите за использованием места на жестком диске или SSD. Возможно, вам даже захочется переместить все модели Ollama из вашей домашней директории на другой, более большой и лучший диск
-
Запуск модели:
ollama run qwen2.5:32b-instruct-q3_K_S
Эта команда запускает указанную модель и открывает интерактивный REPL для взаимодействия.
-
Список моделей:
ollama list
то же самое, что:
ollama ls
Эта команда перечисляет все модели, которые были загружены на ваш компьютер, например
$ ollama ls NAME ID SIZE MODIFIED deepseek-r1:8b 6995872bfe4c 5.2 GB 2 weeks ago gemma3:12b-it-qat 5d4fa005e7bb 8.9 GB 2 weeks ago LoTUs5494/mistral-small-3.1:24b-instruct-2503-iq4_NL 4e994e0f85a0 13 GB 3 weeks ago dengcao/Qwen3-Embedding-8B:Q4_K_M d3ca2355027f 4.7 GB 4 weeks ago dengcao/Qwen3-Embedding-4B:Q5_K_M 7e8c9ad6885b 2.9 GB 4 weeks ago qwen3:8b 500a1f067a9f 5.2 GB 5 weeks ago qwen3:14b bdbd181c33f2 9.3 GB 5 weeks ago qwen3:30b-a3b 0b28110b7a33 18 GB 5 weeks ago devstral:24b c4b2fa0c33d7 14 GB 5 weeks ago
-
Остановка модели:
ollama stop llama3.1:8b-instruct-q8_0
Эта команда останавливает указанную запущенную модель.
Настройка моделей
-
Установка системного приглашения: Внутри REPL Ollama вы можете установить системное приглашение для настройки поведения модели:
>>> /set system Для всех заданных вопросов отвечайте простым английским языком, избегая технического жаргона по возможности >>> /save ipe >>> /bye
Затем запустите настроенную модель:
ollama run ipe
Это устанавливает системное приглашение и сохраняет модель для будущего использования.
-
Создание пользовательского файла модели: Создайте текстовый файл (например,
custom_model.txt
) со следующей структурой:FROM llama3.1 SYSTEM [Ваши пользовательские инструкции здесь]
Затем выполните:
ollama create mymodel -f custom_model.txt ollama run mymodel
Это создает настроенную модель на основе инструкций в файле.
Использование Ollama с файлами
-
Суммирование текста из файла:
ollama run llama3.2 "Суммируйте содержимое этого файла в 50 слов." < input.txt
Эта команда суммирует содержимое
input.txt
с использованием указанной модели. -
Логирование ответов модели в файл:
ollama run llama3.2 "Расскажите мне о возобновляемых источниках энергии." > output.txt
Эта команда сохраняет ответ модели в
output.txt
.
Общие случаи использования
-
Генерация текста:
- Суммирование большого текстового файла:
ollama run llama3.2 "Суммируйте следующий текст:" < long-document.txt
- Генерация контента:
ollama run llama3.2 "Напишите короткую статью о преимуществах использования ИИ в здравоохранении." > article.txt
- Ответы на конкретные вопросы:
ollama run llama3.2 "Какие последние тенденции в ИИ и как они повлияют на здравоохранение?"
- Суммирование большого текстового файла:
-
Обработка и анализ данных:
- Классификация текста по положительному, отрицательному или нейтральному тону:
ollama run llama3.2 "Проанализируйте тон этого отзыва клиента: 'Продукт отличный, но доставка была медленной.'"
- Категоризация текста по заранее определенным категориям: Используйте похожие команды для классификации или категоризации текста на основе заранее определенных критериев.
- Классификация текста по положительному, отрицательному или нейтральному тону:
Использование Ollama с Python
- Установка библиотеки Ollama для Python:
pip install ollama
- Генерация текста с использованием Python:
Этот фрагмент кода генерирует текст с использованием указанной модели и приглашения.
import ollama response = ollama.generate(model='gemma:2b', prompt='что такое кубит?') print(response['response'])
Полезные ссылки
- Сравнение AI-кодировщиков-помощников
- Перемещение моделей Ollama на другой диск или папку
- Как Ollama обрабатывает параллельные запросы
- Как Ollama использует производительность и эффективные ядра Intel CPU
- Тестирование Deepseek-r1 на Ollama
- Шпаргалка по Bash
- Модели Qwen3 Embedding & Reranker на Ollama: Производительность мирового уровня