Как выбрать LLM без цензуры: abliterated vs fine-tuned

Выберите несцензурную модель: стоимость, применимость, вызовы инструментов.

Содержимое страницы

«Безцензурность» охватывает три метода для открытых моделей 2026 года, которые не отказывают в выполнении запросов: аблитерация (abliteration), дообучение без отказов и управляемая политика. Каждый метод изменяет разные возможности модели; это руководство сравнивает затраты и формирует список рекомендаций в зависимости от видеопамяти (VRAM).

Модель, которая никогда не отказывает, лишена единственного рефлекса, подавляющего неверные выходные данные без дополнительного вмешательства. Вам необходимо разместить фильтрацию и оценку в другом месте стека. См. статью Фильтрация LLM без цензуры, чтобы понять, как позиционировать слой безопасности, когда модель перестает обеспечивать его самостоятельно. Принятие решений здесь сужается: какую именно модель без отказов развернуть для заданного GPU и рабочей нагрузки.

Выбор из трех открытых маршрутов для модели без отказов

Каждая диаграмма ниже основана на опубликованном сообществом отчете или карточке модели на 11/11/2026 года и приводится со ссылкой в месте использования. Ни одна из них не была измерена на нашем собственном оборудовании. Эта страница находится в кластере AI Models: выбор модели и стоимость маршрута, а не сервис или системный дизайн.

Почему модели делают несостоящими для отказов

Стандартные чат-модели выровнены (aligned) на отказ от выполнения определенных категорий запросов посредством обученного поведения. Этот отказ не отражает ограничения возможностей; модель, отказывающаяся объяснять фишинговое письмо, как правило, обладает способностью сделать это. Обзор MDPI 2025 года «Uncensored AI in the Wild» (https://www.mdpi.com/1999-5903/17/10/477) задокументировал более 8000 таких репозиториев, преимущественно на Hugging Face, и заключил, что спрос широк, а не маргинален.

Три цели лежат в основе разработки. Анализ безопасности и код, упоминающий реальные уязвимости, запускают отказы, спроектированные для других моделей угроз. Правила отказов, встроенные в веса, препятствуют операторам ослаблять ограничения без редактирования весов или переобучения. Исследователи изучают выравнивание путем редактирования отказов, а инструменты, такие как Heretic, автоматизируют эту технику.

Практические приложения включают тестирование безопасности, программирование, отладку, написание художественной литературы, медицинское образование, ролевые игры и исследования выравнивания, перечисленные ниже, — тот же список, к которому постоянно возвращаются руководства по безопасности и аблитерации (Locally Uncensored). Легитимная задача, совмещенная с отказом, откалиброванным под другое применение, является распространенным обоснованием для удаления этого отказа.

Случай использования Что блокирует фильтр
Тестирование безопасности / red-teaming Составление PoC эксплойтов, вредоносного ПО для анализа, фишинговых приманок для обучения персонала
Кодирование, чувствительное к безопасности Код, в котором указывается реальный CVE или инструмент, что выровненные модели отклоняют, словно это атака
Отладка ложных отказов Когда выровненная модель достаточно часто отклоняет легитимный промпт, чтобы сломать агентный цикл
Художественная и взрослая творческая писательская деятельность Зрелые темы, которые мейнстримные ассистенты отклоняют даже для художественных произведений для взрослых
Медицинское и сексуальное образование Клинический или образовательный контент, который срабатывает на фильтрах безопасности
Ролевые игры и создание компаньонов Работа с персонажами, которую политика вендора считает вне области применения
Исследования выравнивания/безопасности Измерение того, что отказы ловят и не ловят, путем их удаления в контролируемых условиях

Три метода удаления отказов

Аблитерация редактирует веса без переобучения. Ардити и соавторы обнаружили, что отказ в чат-моделях переносится единым направлением в остаточном потоке (https://arxiv.org/abs/2406.11717). Векторы (веса) ортогонализуются относительно этого направления, определяемого путем сравнения активаций на вредоносных и безвредных промптах. Пошаговое руководство Максима Лабоны по аблитерации служит эталоном для большинства публичных сборок. Сборка Qwen3.8-27B от huihui-ai (https://huggingface.co/huihui-ai/Huihui-Qwen3.8-27B-abliterated) абластирует слои 18 по 51 под лицензией Apache 2.0, оставляя компоненты MTP и визуального восприятия нетронутыми.

Дообучение без отказов переобучает поведение за более длительные периоды. Dolphin 3.0, разработанная Cognitive Computations для Эрика Харфорда, использует учебные данные, из которых удалены сигналы выравнивания. Карточка Ollama утверждает: «Мы отфильтровали набор данных, чтобы удалить выравнивание и предвзятость». Dolphin 3.0 R1 Mistral 24B была обучена на 800k трассировках рассуждений DeepSeek-R1 наряду с цензурным корпорусом. Карточка описывает модель как высоко-соблюдающую все запросы, включая неэтичные, и рекомендует реализовывать независимый слой выравнивания перед развертыванием.

Модели с управляемой политикой, такие как Hermes 4 от NousResearch, выровнены нейтрально и управляются политикой системного промпта. Отказ управляется шлюзом, а технический отчет Nous показывает, что системный промпт формирует рассуждение, а не только поверхностный тон. Политика потребляет токены контекста и ослабевает по мере роста разговора. Руководство Locally Uncensored 2026 года сообщает, что управляемая политика ломается на длинном контексте, в отличие от 1–3 часов для аблитерации и дней для дообучения.

Измеренная стоимость удаления отказов

Коллатеральный ущерб широко варьируется между методами аблитерации. Heretic (https://github.com/p-e-w/heretic) сообщает о Gemma-3-12B-IT, что три децензурных версии каждая снизили отказ от вредоносных промптов до 3 из 100, по сравнению с 97 из 100 в стоковой модели. Расхождение Кульбака-Лейблера (KL) от оригинала на нейтральных входных данных составило 1,04 для ручной аблитерации (99,9% весов, без поиска параметров), 0,45 для частичного поиска Лабоны и 0,16 для полного поиска Heretic.

Успешность атак HarmBench на Qwen-2.5-7B возросла с 31,0% для выровненной модели до 98,2–100,0% для версии без отказов (Карточка DreamFast HF). MMLU для Qwen3.8-27B упал на 2,12 процентных пункта с 84,46% до 82,33% в сборке OBLITERATUS, процитированной через Featherless. GSM8K для Qwen-2.5-7B улучшился с 1,5 до 1,6 процентных пункта с 79,23% до 80,74–80,82% (карточка DreamFast). Выявление уязвимостей Vul4J снизилось с 58,42% до 57,22%, в то время как успешно скомпилированные патчи выросли с 9,04% до 32,77% в исследовании июля 2026 года (arXiv:2607.05842).

Отказ и способность — это разные показатели, и таблицы рассматривают их именно так. Результат отказа — то, что модель теперь будет делать:

Результат отказа Выровненная Без отказов Источник
Успешность атак HarmBench, Qwen-2.5-7B 31,0% 98,2–100,0% DreamFast, карточка модели HF

Изменение способностей — во сколько обошлось редактирование для знаний и рассуждений:

Изменение способностей Выровненная Без отказов Источник
MMLU, Qwen3.8-27B 84,46% 82,33% (−2,12 п.п.) Карточка OBLITERATUS, через Featherless
GSM8K, Qwen-2.5-7B 79,23% 80,74–80,82% (+1,5 до +1,6 п.п.) DreamFast, карточка модели HF
Выявление уязвимостей Vul4J 58,42% 57,22% Исследование того же происхождения июля 2026 года (arXiv:2607.05842), через Featherless
Патчи Vul4J, которые скомпилировались 9,04% 32,77% то же исследование

Отчет Anthropic 2026 года (https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities) произвел аблитерированный GLM-5.3, где частота отказов снизилась с более чем 90% до 3% в JailbreakBench, 2% в HarmBench и 12% в StrongREJECT. Редактирование стоило примерно 2 200 GPU-часов (~$4 400); вариант Flash стоил около 600. Оценки GPQA-Diamond не изменились, а CyberGym снизился на несколько процентных пунктов.

OrcaRouter документирует две сборки DeepSeek V4.1 Flash с разными результатами отказов: одна сохранила 24 из 100 отказов, тогда как другая сохранила 4 для чат-промптов с KL первого токена 0,067 на безвредных входных данных. Ни один издатel не опубликовал бенчмарк способностей для аблитерированной сборки. Цифры способностей, перечисленные в публичных карточках, были измерены на базовой контрольной точке. Проверяйте каждую карточку на предмет того, что было удалено, и оценивайте способности только там, где бенчмарки указывают значения «до» и «после».

Аблитерация сохраняет бенчмарки знаний и иногда улучшает математическое рассуждение. Она изменяет то, как модель использует эти знания. Модель, обнаруживающая уязвимости так же хорошо, как и ее выровненный аналог, в несколько раз чаще производит рабочий патч. Если задача связана с производством артефактов, редактирование полезно. Если задача требует сдержанности, оператор должен предоставить ее сам.

Heretic (Филипп Эмануэль Вайдманн, впервые выпущен в конце 2025 года) автоматизирует направленный аблат с поиском параметров Optuna, который совместно минимизирует отказы и расхождение KL. Аблитерация Qwen-2.5-7B затронула 37 из 339 тензоров в слоях 9–27. Apostate затронула 55 тензоров в 27 слоях, а huihui-ai затронула 57 тензоров во всех 28 слоях (форензика DreamFast). Команда heretic <model-id> требует пакета heretic-llm (pip install -U heretic-llm). Модель 4B (Qwen3-4B-Instruct) была аблитерирована за 20–30 минут на RTX 3090. Сообщество помещает модели 7B–9B в диапазон 20–90 минут, а модели 12B–27B — в один час или более на оборудовании 4090, 5090 или A100. Конфигурация поддерживает квантование bnb_4bit для карт с низким объемом VRAM. Модели Gemma требуют настройки winsorization_quantile в 0,95. Сборки MoE и класса 24B требуют 4-битного квантования, чтобы поместиться на карту 24 ГБ. Гейтовые контрольные точки требуют аутентификации Hugging Face. Полный прогон занимает примерно полдня.

Редактирование использует веса полного преобразования, но развертывания обычно используют квантование GGUF. Квантование округляет каждый вес, включая отредактированные тензоры. Опубликованные сборки GGUF включают два этапа цепочки поставок: редактирование и квантование, и ни один из этапов не обязательно выполняется вами. Округление может реактивировать части удаленного направления; разброс отказов 3/100 против 24/100 на той же базе указывает на масштаб этого эффекта.

Вызов инструментов и риск цепочки поставок

Надежность вызова функций (Function calling) не коррелирует с частотой отказов. Аблитерация оптимизирует отказ и расхождение KL, а не лояльность схеме, поэтому аблитерированная сборка наследует поведение вызова инструментов базовой модели. Шаблоны обслуживания могут нарушить его еще сильнее. Шаблон Dolphin 3 Ollama поставлялся без поддержки инструментов (Ollama #8329). Аблитерированная контрольная точка, которая сбрасывает схему инструментов в середине разговора, не подходит для агентного использования.

ProjectDiscovery продемонстрировала Qwen2.5-7B с бэкдуром, которая передавала shell-нагрузку через вызов инструмента при получении скрытой фразы-триггера. Бэкдур был создан менее чем за $50 и проходил тесты чистого поведения. Отредактированные веса могут нести бэкдоры, и аблитерированные сборки — это именно те, которые загружаются с Hugging Face без проверки. Верифицируйте происхождение и ограничьте доступ к серверу обслуживания перед запуском агентов на непроверенных моделях.

Квантование ниже Q4 повреждает структурированный вывод, как задокументировано в Быстром старте Strata Qwen3.8-Flash-Next. Бюджетируйте VRAM для Q4_K_M или выше, и тестируйте схему перед развертыванием. См. Выбор лучшей LLM для Ollama на 16 ГБ VRAM для измерений VRAM.

Режимы отказов по методам

Аблитерированные модели сохраняют остаточный отказ. Промпты с длинным контекстом могут вызывать мягкое морализирование, даже если жесткие отказы не повторяются. Модели рассуждений переизвлекают отказы из первых принципов после удаления направления. Модель, прошедшая 20-промптовый проб, может хеджировать в длинном агентном контексте на непроверенных промптах; планируйте это при отладке ложных отказов.

Дообученные модели демонстрируют чрезмерное выполнение. Фильтрация данных, удаляющая отказ, также удаляет ограничение на другие выходные данные. Описание карточки Dolphin как высоко-соблюдающей все запросы, включая неэтичные, подтверждает это. Пропсы перед развертыванием не выявляют этот отказ; это делают запросы в производстве.

Модели с управляемой политикой испытывают деградацию политики в длинном контексте. Политика находится в контексте, и ее влияние уменьшается по мере роста разговора. Ограничения, установленные в начале сессии, могут перестать действовать после длительного взаимодействия.

Все три режима отказов — это явления длинного контекста. Агентные нагрузки работают в расширенном контексте, поэтому валидация должна происходить на фактической длине рабочего контекста, а не на демо-примерах с двумя токенами.

Ограничения и будущее направление удаления отказов

Аблитерация предполагает, что знания существуют в весах, и лишь готовность использовать их подавлена. Руководство Университета Иллинойса по прикладным LLM утверждает, что аблитерация не добавляет знания, отсутствующие в базовой модели. Модель настолько же полезна в теме, насколько полезны были исходные веса.

Исследователи переносят решения о безопасности на предобучение. Deep Ignorance от EleutherAI (arXiv:2508.06601, ICLR 2026) фильтрует опасные документы из предобучения. Защита сработала против протестированных атак на дообучение на основе данных, а бенчмарки общих знаний показали минимальные изменения. Обратите внимание на масштаб: их эксперименты используют био/CDNR прокси, а не общую цензуру. Модель, которая никогда не получает учебные данные, отказывает из-за незнания; ни одно редактирование весов не восстановит отсутствующие знания.

Дообучение с расширенным отказом (arXiv:2505.19056, май 2025) обучает более длительные обоснованные отказы на нескольких позициях токенов. Это снизило падение отказов после аблитерации до приблизительно 10% по сравнению с типичными 70–80%. Модели рассуждений переизвлекают отказы из первых принципов, независимо от удаления направления. Эти разработки не требуют фильтрации данных, но снижают надежность аблитерации в ее собственных терминах.

Предложение без цензуры продолжает расти. Отчет ThreatDown 2026 года задокументировал пять хостед-провайдеров аблитерированных DeepSeek, 6 644 помеченные модели и более 22 миллионов загрузок в 30-дневном окне. Heretic находится во второй версии. Deep Ignorance — это контролируемое доказательство концепции. Провайдеры не раскрывают методы производственной фильтрации, а агрессивная фильтрация стоит способностей. Открытые пользователи все еще могут запускать необработанные базовые контрольные точки или объединять адаптеры без безопасности.

Выбор модели теперь требует изучения происхождения данных. Если база была отфильтрована по знаниям, аблитерация не может восстановить отсутствующие тематические знания. Проверяйте описание данных в карточке модели так же тщательно, как и оговорку о способностях.

Короткий список моделей по VRAM и случаю использования

Поле 2026 года концентрируется на нескольких линейках моделей:

Модель Маршрут VRAM (Q4) Выбрать, если
Qwen3.8-27B (аблитерированные сборки) Аблитерация 16–24 ГБ Лучшая в целом: кодирование, агенты, мультимодальность
Dolphin 3.0 Mistral 24B Дообучение без отказов 16–24 ГБ Вызов функций, общий чат, вариант рассуждений R1
Hermes 4 (14B/36B/70B) Управляемая политика 12 ГБ+ Поведение, которое вы определяете по системному промпту
Gemma 4 26B-A4B uncensored Аблитерация (MoE, ~4B активных) 12–16 ГБ Скорость на скромном оборудовании
Mistral Small 3.2 abliterated Аблитерация 12–16 ГБ Художественная литература и проза
Huihui GLM-5.1 abliterated Аблитерация 24 ГБ+ Наиболее высокий потолок, если карта позволяет

Аблитерированный Qwen3.8-27B — выбор по умолчанию в 2026 году. Он имеет лицензию Apache 2.0, поддерживает компоненты MTP и зрения и помещается на обычные карты при стандартном квантовании. См. Страницу семейства Qwen 4 для базовых бенчмарков. Hermes 4 подходит, когда вам требуется модель, способная отказывать согласно письменной политике. Сборка Gemma 4 MoE жертвует некоторыми возможностями ради преимуществ пропускной способности на оборудовании ниже 16 ГБ.

Требования к VRAM включают веса, KV-кеш и приблизительно 1–2 ГБ накладных расходов на время выполнения. При Q4_K_M веса стоят приблизительно 0,6 байта на параметр. Аблитерированные 4-битные GGUF Qwen3.8-27B требуют 16,5–16,8 ГБ до учета контекста. Карта 16 ГБ поместит только низкобитовое квантование с минимальным контекстом; карта 24 ГБ обеспечивает запас. Стоимость KV-кеша составляет приблизительно 56 КБ на токен для модели GQA со 28 слоями и 4-й KV-головой, такой как Qwen2.5-7B, в общей сложности 1,8 ГБ при контексте 32K и 7,5 ГБ при 128K контексте. Бюджетируйте фактический рабочий контекст.

База Qwen3.8-27B лицензирована под Apache 2.0, но аблитерированные сборки от OBLITERATUS, huihui-ai и philbert440 — это редактуры сообщества. huihui-ai помечает свою сборку как доказательство концепции и не рекомендует для производственного или публичного использования. Проверяйте издателя и файл лицензии для каждого репозитория. Сборки Qwen3.8-Flash-Next используют Qwen Community License 1.0 с собственными условиями.

Рамки принятия решений

Выбирайте по тому ограничению, которое «кусает» первым:

  • Для надежных вызовов инструментов: используйте дообучение без отказов или управляемую модель (Dolphin 3, Hermes 4) на Q4 или выше; относитесь к аблитерированным сборкам как к экспериментальным, пока схема не протестирована.
  • Для максимальной открытости на одной машине с кодированием и зрением: используйте аблитерированный Qwen3.8-27B, обслуживаемый при квантовании, сохраняющем структуру.
  • Чтобы устанавливать ограничения самим: используйте Hermes 4 с явной политикой системного промпта.
  • Для строгих бюджетов VRAM, запуская чат или прозу: используйте Mistral Small 3.2 abliterated или сборку Gemma 4 MoE.

Выполните три проверки валидации на фактической длине рабочего контекста:

  1. Проб на отказ. Запустите 20–50 промптов из ваших фактических рабочих нагрузок, включая пограничные случаи, которые вызывали отказы на выровненных моделях. Отсчитывайте отказы и уклончивые не-ответы отдельно. Featherless применяет этот метод с 50–100 реальными запросами на злоупотребление.

  2. Схема инструментов на длине. Запустите многоходовой цикл вызова инструментов по вашей фактической схеме на длине рабочего контекста. Это обнаруживает повреждение структурированного вывода ниже Q4, задокументированное в быстром старте Strata, и дрейф схемы, распространенный в аблитерированных сборках.

  3. Нейтральная дифференцировка. Запустите нейтральные промпты с тем же сидом и жадным декодированием как на кандидате, так и на базовой модели; сравните выходные данные рядом. Это служит прокси для расхождения KL, когда карточка модели не публикует его.

Время выполнения, поведение контекста и формат квантования — это решения хостинга. См. Сравнение локальных рантаймов LLM.


Полезные ссылки

Источники, в порядке появления:

На сайте:

Подписаться

Получайте новые материалы про системы, инфраструктуру и AI engineering.