Self-Hosting

Здесь я сравниваю, сколько VRAM новая версия Ollama выделяет для модели по сравнению с предыдущей версией. Новая версия работает хуже.

Это руководство проведет вас через процесс изменения статического IP-адреса на сервере Ubuntu.

Ollama быстро стал одним из самых популярных инструментов для запуска локальных моделей большого языка (LLM). Его простой интерфейс командной строки и упрощенное управление моделями сделали его предпочтительным вариантом для разработчиков, которые хотят работать с моделями ИИ вне облака.

Mumble — это бесплатное и открытое программное обеспечение для голосовой передачи данных (VoIP), предназначенное в основном для передачи голоса в реальном времени. Оно использует клиент-серверную архитектуру, где пользователи подключаются к общему серверу для общения друг с другом.

Локально размещённый Ollama позволяет запускать большие языковые модели на вашем собственном устройстве, но использование его через командную строку не очень удобно. Вот несколько открытых проектов, которые предоставляют интерфейсы в стиле ChatGPT, подключающиеся к локальному Ollama.

Приложения для мониторинга нагрузки GPU: nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

Вот пошаговое руководство по установке кластера K3s из 3 узлов на серверах с “голым” железом (1 мастер + 2 рабочих узла).

Сравнение дистрибутивов Kubernetes для саморазвертывания на bare-metal или домашних серверах, с акцентом на простоту установки, производительность, системные требования и функциональность.

Я сравниваю варианты самонастраиваемых Kubernetes, подходящие для хоумлаба на основе Ubuntu с 3 узлами (16 ГБ ОЗУ, 4 ядра каждый), с акцентом на простоте установки и обслуживания, поддержке постоянных томов и LoadBalancers.

GitHub Actions — это платформа автоматизации и CI/CD внутри GitHub, предназначенная для сборки, тестирования и развертывания кода на основе событий, таких как пуши (push), запросы на слияние (pull requests) или по расписанию.

Вот шпаргалка по Docker Compose с аннотированными примерами, которая поможет вам быстро освоить файлы Compose и команды.

Вот подробный разбор Obsidian как мощного инструмента для личного управления знаниями (PKM), описывающий его архитектуру, функции, преимущества и то, как он поддерживает современные рабочие процессы по работе с знаниями.

Nvidia вот-вот выпустит NVIDIA DGX Spark — компактный ИИ-суперкомпьютер на архитектуре Blackwell с более чем 128 ГБ объединенной памяти и производительностью 1 ПФЛОПС для задач искусственного интеллекта. Отличное устройство для запуска больших языковых моделей (LLM).

Давайте быстро рассмотрим Matomo, Plausible, Google и другие поставщики и системы веб-аналитики доступные для самохостинга и сравним их.

Вот мой любимый набор шагов при установке свежей установки Ubuntu 24.04. Что мне нравится здесь - нет необходимости устанавливать драйверы NVidia! они устанавливаются автоматически.

Dokuwiki — это самодостаточная Википедия, которую легко развернуть локально, и она не требует использования баз данных. Я запускал её в Docker-контейнере на своём небольшом кластере Kubernetes.