Сравнение производительности Ollama: NVIDIA DGX Spark против Mac Studio против RTX-4080

Сравнение производительности Ollama: NVIDIA DGX Spark против Mac Studio против RTX-4080

Бенчмарки GPT-OSS 120b на трёх платформах ИИ

Я выкопал некоторые интересные тесты производительности GPT-OSS 120b, работающей на Ollama на трех разных платформах: NVIDIA DGX Spark, Mac Studio и RTX 4080. Модель GPT-OSS 120b из библиотеки Ollama весит 65ГБ, что означает, что она не помещается в 16ГБ видеопамяти RTX 4080 (или более новой RTX 5080).

Модульное тестирование в Python: Полное руководство с примерами

Модульное тестирование в Python: Полное руководство с примерами

Тестирование на Python с использованием pytest, TDD, мокирования и покрытия кода

Модульное тестирование гарантирует, что ваш код на Python работает правильно и продолжает работать по мере развития проекта. Это всеобъемлющее руководство охватывает все, что вам нужно знать о модульном тестировании в Python, от базовых концепций до продвинутых техник.

Создание серверов MCP на Python: руководство по веб-поиску и парсингу

Создание серверов MCP на Python: руководство по веб-поиску и парсингу

Создавайте серверы MCP для ИИ-ассистентов с примерами на Python

Протокол Контекста Модели (MCP) революционизирует способ взаимодействия ИИ-ассистентов с внешними источниками данных и инструментами. В этом руководстве мы исследуем, как строить MCP-серверы на Python, с примерами, сосредоточенными на возможностях веб-поиска и парсинга.

Горячие Кнопки Ubuntu: Полное руководство

Горячие Кнопки Ubuntu: Полное руководство

Сокращения клавиш Ubuntu -> ваша продуктивность

Короткие команды - сочетания клавиш Ubuntu - незаменимые инструменты для повышения продуктивности и эффективности. Будь вы разработчиком, системным администратором или продвинутым пользователем, эти сокращения могут ускорить ваш рабочий процесс и снизить зависимость от мыши.

Преобразование HTML в Markdown с помощью Python: Полное руководство

Преобразование HTML в Markdown с помощью Python: Полное руководство

Python для преобразования HTML в чистый, готовый для LLM Markdown

Преобразование HTML в Markdown — это фундаментальная задача в современных разработческих процессах, особенно при подготовке веб-контента для больших языковых моделей (LLM), систем документации или статических генераторов сайтов, таких как Hugo.

Шпаргалка Docker Model Runner: команды и примеры

Шпаргалка Docker Model Runner: команды и примеры

Справочник команд Docker Model Runner

Docker Model Runner (DMR) — это официальное решение Docker для запуска моделей ИИ локально, представленное в апреле 2025 года. Этот справочник предоставляет быстрый доступ ко всем основным командам, настройкам и лучшим практикам.

Docker Model Runner против Ollama: что выбрать?

Docker Model Runner против Ollama: что выбрать?

Сравните Docker Model Runner и Ollama для локальных LLM

Запуск больших языковых моделей (LLM) локально стал все более популярным благодаря конфиденциальности, контролю затрат и возможностям работы офлайн. Ландшафт значительно изменился в апреле 2025 года, когда Docker представил Docker Model Runner (DMR), свое официальное решение для развертывания моделей ИИ.

Реализация сервис-меша с использованием Istio и Linkerd: Полное руководство

Реализация сервис-меша с использованием Istio и Linkerd: Полное руководство

Развёртывание production-ready сервис-меша: Istio vs Linkerd

Узнайте, как реализовать и оптимизировать архитектуры сервис-мешей с использованием Istio и Linkerd. Это руководство охватывает стратегии развертывания, сравнения производительности, конфигурации безопасности и лучшие практики для производственных сред.

GNOME Boxes: Полное руководство по функциям, преимуществам, проблемам и альтернативам

GNOME Boxes: Полное руководство по функциям, преимуществам, проблемам и альтернативам

Простое управление виртуальными машинами в Linux с помощью GNOME Boxes

В современном вычислительном ландшафте виртуализация стала неотъемлемой частью разработки, тестирования и запуска нескольких операционных систем. Для пользователей Linux, ищущих простой и интуитивно понятный способ управления виртуальными машинами, GNOME Boxes выделяется как легковесный и удобный вариант, который делает акцент на простоте использования без ущерба для функциональности.

Nostr: децентрализованные социальные сети, статистика пользователей и альтернативы

Nostr: децентрализованные социальные сети, статистика пользователей и альтернативы

Децентрализованный социальный протокол с 21K+ пользователями, переосмысляющий онлайн-конфиденциальность

Вот перевод содержимого страницы Hugo с английского на русский, соблюдая все указанные правила:

Здесь представлен Nostr — децентрализованный социальный протокол, который бросает вызов доминированию Big Tech, предлагая устойчивую к цензуре коммуникацию и контроль пользователей над своими данными.

За пределами Google: руководство по альтернативным поисковым системам

За пределами Google: руководство по альтернативным поисковым системам

Исследуйте альтернативные поисковые системы помимо Google и Bing

Хотя Google доминирует на рынке поисковых систем с долей более 90% в глобальном масштабе, существует растущая экосистема альтернативных поисковых систем, предлагающих различные подходы к веб-поиску.

Статистика сети Tor: Десятилетие роста и вызовов (2015–2025)

Статистика сети Tor: Десятилетие роста и вызовов (2015–2025)

Анализ роста и проблем сети Tor за десятилетие

Сеть Tor (https://www.glukhov.org/ru/post/2025/10/tor-statistics/ “сеть Tor”) за последние десятилетие пережила значительные колебания в своей инфраструктуре, при этом выходные узлы и мосты демонстрировали различные паттерны роста их численности, её снижения и восстановления.

Продвижение ASIC для LLM: Почему аппаратное обеспечение инференса имеет значение

Продвижение ASIC для LLM: Почему аппаратное обеспечение инференса имеет значение

Специализированные чипы ускоряют и удешевляют выводы ИИ

Будущее ИИ не ограничивается более умными моделями - это также вопрос более умного железа. Специализированное оборудование для инференса ЛЛМ приводит к революции, аналогичной переходу майнинга биткоинов к ASIC.

Инди-веб: Возвращение цифровой независимости

Инди-веб: Возвращение цифровой независимости

Владейте своим контентом и контролируйте свою идентичность

Веб-сети изначально были разработаны как децентрализованная сеть, где любой мог публиковать и подключаться. Со временем корпоративные платформы консолидировали контроль, создавая закрытые сады, где пользователи являются продуктами, а контент заперт. Движение Indie Web стремится вернуть первоначальное обещание веба: личное владение, творческая свобода и подлинное взаимодействие.