無検閲LLMの選び方:Abliteratedモデルとファインチューニングモデルの比較

検閲なしのモデルの選択:コスト、適合性、ツール呼び出し。

目次

「アンセンソード(無検閲)」は、拒否応答を行わないオープンモデルにおける2026年の3つの手法——アブリテレーション(拒否方向の除去)、拒否なしファインチューニング、操作可能なポリシー(Steerable Policy)——を解説します。各手法は異なる能力に影響を与えますが、本ガイドではコストを比較し、VRAM(ビデオメモリ)に基づいた推奨リストを提示します。

常に拒否応答を行わないモデルには、追加の介入なしに誤った出力を抑制する唯一の反射的な機能が欠如しています。その場合、フィルタリングや判断はスタックの別の場所に配置する必要があります。モデルがその安全層を提供しなくなった場合の配置方法については、アンセンソードLLMのフィルタリングを参照してください。ここではより狭い意思決定が求められます。特定のGPUとワークロードに対して、どの非拒否モデルを展開すべきかという点です。

拒否しないモデルのための3つのオープンルートから選ぶ

以下のすべての図は、2026年11月11日時点で公開されているコミュニティレポートまたはモデルカードからの引用であり、使用箇所にて出典を示しています。これらは当社のハードウェアでの測定値ではありません。本ページはAIモデルクラスタの下に位置づけられ、モデルの選択とルートのコストについて扱っており、サービングやシステムデザインについては扱いません。

なぜモデルが拒否しないように作られるのか

メインストリームのチャットモデルは、訓練された振る舞いを通じて特定の要求カテゴリを拒否するようにアラインメント(整合性調整)されています。この拒否は能力の限界を反映していません。フィッシングメールの説明を拒否するモデルは、通常、それを説明する能力を有しています。MDPIの2025年調査「野生のアンセンソードAI」(https://www.mdpi.com/1999-5903/17/10/477)は、主にHugging Face上で公開されている約8,000以上のそのようなリポジトリを文書化し、需要は局所的ではなく幅広いものであると結論づけました。

開発を促す3つの目的があります。セキュリティ分析や、実際の脆弱性に関するコードは、別の脅威モデル向けに設計された拒否をトリガーします。重みの中に埋め込まれた拒否ルールは、オペレーターが重みの編集や再訓練なしに制約を緩和することを防ぎます。研究者は拒否の編集によってアラインメントを研究しており、Hereticのようなツールはこの技術を自動化します。

実践的な応用には、以下にリストされたセキュリティテスト、コーディング、デバッグ、フィクション写作、医学教育、ロールプレイ、アラインメント研究のケースが含まれます。これは、セキュリティおよびアブリテレーションガイドが繰り返し言及しているのと同じリストです(Locally Uncensored)。正当なタスクと、異なる使用ケース向けに較正された拒否の組み合わせは、その拒否を削除する一般的な正当化理由となります。

使用ケース フィルターがブロックするもの
セキュリティテスト / レッドチーム 脆弱性概念実証 (PoC) の作成、分析用マロウェア、従業員トレーニング用のフィッシングルアー
セキュリティに関するコーディング 実際のCVEやツール名を特定するコード(アラインされたモデルは攻撃として拒否する)
誤った拒否のデバッグ 対話エージェントループを破壊するほど頻繁に正当なプロンプトを拒否するアラインされたモデル
フィクションおよび成人向け創作 主流アシスタントが同意した成人向けフィクションであっても拒否する成熟したテーマ
医学および性教育 安全フィルターに引っかかる臨床的または教育的なコンテンツ
ロールプレイおよびコンパニオン構築 ベンダーポリシーが範囲外とみなすペルソナ作業
アラインメント/安全研究 管理された条件下でそれらを除去し、拒否が何を捕捉し何を捕捉しないかを測定すること

拒否除去の3つの手法

アブリテレーションは、再訓練なしに重みを編集します。Arditiらの研究(https://arxiv.org/abs/2406.11717)は、チャットモデルの拒否が残留ストリーム内の単一の方向によって担われていることを発見しました。重みはこの方向に対して直交化されます。この方向は、有害プロンプトと無害プロンプトの活性化を比較することで識別されます。Maxime Labonne氏のアブリテレーション解説は、ほとんどの公開ビルドの参考資料となっています。huihui-aiのQwen3.8-27Bビルド(https://huggingface.co/huihui-ai/Huihui-Qwen3.8-27B-abliterated)はApache 2.0の下で層18から51を除去し、MTP(Multi-Token Prediction)およびビジョンコンポーネントは無傷のままです。

拒否なしファインチューニングは、より長い期間にわたって振る舞いを再訓練します。Cognitive ComputationsがEric Hartfordのために開発したDolphin 3.0は、アラインメントシグナルが除去された訓練データを使用します。Ollamaカードは以下のように述べています:「データセットをフィルタリングして、アラインメントとバイアスを除去しました」。Dolphin 3.0 R1 Mistral 24Bは、アンセンソードコーパスとともに、80万のDeepSeek-R1推論トレースで訓練されました。このカードは、モデルが非倫理的なものを含むすべての要求に対して非常に順従であると説明し、デプロイ前に独立したアラインメント層の実装を推奨しています。

NousResearchのHermes 4のような操作可能ポリシーモデルは、中立にアラインされており、システムプロンプトのポリシーによって管理されます。拒否はゲート制御されており、Nous技術レポートは、システムプロンプトが単なる表面的なトーンだけでなく、推論そのものを再形成することを示しています。ポリシーはコンテキストトークンを消費し、会話の成長に伴って弱体化します。Locally Uncensoredの2026年ガイドは、アブリテレーションが1〜3時間、ファインチューニングが数日であるのに対し、操作可能ポリシーは長いコンテキストで破綻すると報告しています。

拒否除去の測定されたコスト

アブリテレーション手法間の波及損害は大きく異なります。Heretic(https://github.com/p-e-w/heretic)は、Gemma-3-12B-ITについて、3つの検閲解除バージョンがそれぞれ有害プロンプトの拒否を100件中3件まで減らしたことを報告しています。これは標準モデルの100件中97件から減少しました。中立入力における元のモデルとのKL分散は、手動アブリテレーション(重みの99.9%、パラメータ検索なし)で1.04、Labonne氏の部分的検索で0.45、Hereticの完全検索で0.16でした。

Qwen-2.5-7BにおけるHarmBench攻撃成功率は、アラインされたモデルの31.0%から、非拒否バージョンでは98.2〜100.0%に上昇しました(DreamFast HFカード)。Qwen3.8-27BのMMLUは、Featherlessを参照して引用されたOBLITERATUSビルドにおいて、84.46%から82.33%へ2.12ポイント低下しました。Qwen-2.5-7BのGSM8Kは、79.23%から80.74〜80.82%へ1.5から1.6ポイント向上しました(DreamFastカード)。Vul4J脆弱性検出は58.42%から57.22%へ低下しましたが、コンパイル可能なパッチは2026年7月の研究(arXiv:2607.05842)において、9.04%から32.77%へ上昇しました。

拒否と能力は異なる数値であり、表はそれを反映しています。拒否の結果——モデルが今後行うこと:

拒否の結果 アラインされた 非拒否 出典
HarmBench攻撃成功、Qwen-2.5-7B 31.0% 98.2–100.0% DreamFast, HFモデルカード

能力の増減——知識や推論における編集の代価:

能力の増減 アラインされた 非拒否 出典
MMLU, Qwen3.8-27B 84.46% 82.33% (−2.12pp) OBLITERATUSカード、Featherless経由
GSM8K, Qwen-2.5-7B 79.23% 80.74–80.82% (+1.5 to +1.6pp) DreamFast, HFモデルカード
Vul4J脆弱性検出 58.42% 57.22% 2026年7月同一系統研究(arXiv:2607.05842)、Featherless経由
Vul4Jコンパイル可能パッチ 9.04% 32.77% 同上の研究

Anthropicの2026年報告書(https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities)は、JailbreakBenchで拒否率が90%超から3%へ、HarmBenchで2%へ、StrongREJECTで12%へ低下したアブリテレーション済みGLM-5.3を生成しました。この編集のコストは約2,200 GPU時間(約4,400ドル)であり、Flashバリアントは約600時間でした。GPQA-Diamondのスコアは変化がなく、CyberGymは数ポイント低下しました。

OrcaRouterは、異なる拒否結果を持つ2つのDeepSeek V4.1 Flashビルドを文書化しています。1つは100件中24件の拒否を維持し、もう1つは無害入力の先頭トークンKLが0.067で、チャットプロンプトにおいて100件中4件を維持しました。アブリテレーション済みビルドの能力ベンチマークを公開したパブリッシャーはいません。公開カードにリストされている能力の数値は、ベースチェックポイントでの測定です。各カードで何かが除去されたかを確認し、ベンチマークが前後の値を明示している場合のみ能力を評価してください。

アブリテレーションは知識ベンチマークを維持し、場合によっては数学的推論を改善します。それはモデルがその知識を使用する方法を変更するものです。アラインされた同様のパートナーと同様に脆弱性を検出できるモデルは、動作するパッチを生成する可能性が数倍高くなります。タスクが成果物の生成である場合、この編集は有益です。タスクが自制を必要とする場合、オペレーターがそれを提供する必要があります。

Heretic(Philipp Emanuel Weidmann氏、2025年末に初リリース)は、Optunaパラメータ検索により拒否とKL分散を同時に最小化する方向性アブレーションを自動化します。Qwen-2.5-7Bのアブリテレーションは層9〜27の339テンソル中37個を変更しました。Apostateは27層にわたり55テンソル、huihui-aiは全28層にわたり57テンソルを変更しました(DreamFastのフォレンジック調査)。コマンド heretic <model-id> は heretic-llm パッケージ(pip install -U heretic-llm)を必要とします。4Bモデル(Qwen3-4B-Instruct)はRTX 3090上で20〜30分でアブリテレーションされます。コミュニティレポートによると、7B〜9Bモデルは20〜90分、12B〜27Bモデルは4090、5090、またはA100ハードウェアで1時間以上かかります。設定は低VRAMカード向けの bnb_4bit 量子化をサポートしています。Gemmaモデルには winsorization_quantile が0.95に設定される必要があります。MoEおよび24Bクラスのビルドは、24GBカードに収めるために4ビット量子化を必要とします。ゲーテッドチェックポイントにはHugging Faceの認証が必要です。完全な実行には約半日かかります。

この編集はフル精度の重みを使用しますが、デプロイでは通常GGUF量子化を使用します。量子化は、編集されたテンソルを含むすべての重みを丸めます。公開されたGGUFビルドには2つのサプライチェイン段階——編集と量子化——が含まれ、どちらの段階も必ずしもあなたが実行するものではありません。丸めによって、除去された方向の一部が再活性化される可能性があります。同一ベースにおける拒否率の100件中3件と100件中24件のばらつきは、この効果の大きさを示しています。

ツールコールとサプライチェインリスク

関数呼び出しの信頼性は、拒否率とは相関しません。アブリテレーションは拒否とKL分散の最適化を行い、スキーマの忠実度については行いません。そのため、アブリテレーション済みビルドはベースモデルのツールコール挙動を引き継ぎます。サービングテンプレートがさらにそれを壊す可能性があります。Dolphin 3のOllamaテンプレートは、ツールサポートなしで出荷されていました(Ollama #8329)。会話中にツールスキーマを落としてしまうアブリテレーション済みチェックポイントは、エージェント用途に適していません。

ProjectDiscoveryは、隠されたトリガーフレーズを受信した際にツールコール経由でシェルペイロードを提供する、バックドア仕込み済みのQwen2.5-7Bを実証しました。バックドアは50ドル未満で構築され、クリーン動作テストに合格しました。編集された重みはバックドアを運ぶ可能性があり、アブリテレーション済みビルドはまさに、検査なしでHugging Faceからプルされるものです。検査されていないモデルでエージェントを実行する前に、出所を確認し、サービングボックスへのアクセスを制限してください。

サブ-Q4量子化は、Strata Qwen3.8-Flash-Next クイックスタートに文書化されているように、構造化出力を破損させます。Q4_K_M以上のVRAMを予算化し、デプロイ前にスキーマをテストしてください。VRAM測定については、16 GB VRAMでのOllama向け最良LLMの選択を参照してください。

手法による失敗モード

アブリテレーション済みモデルには、残存拒否が保持されます。長いコンテキストのプロンプトは、明確な拒否が再発しない場合でも、柔らかい道徳説教を生成する可能性があります。推論モデルは、方向除去後に第一原理から拒否を再導出します。20プロンプトのプローブに合格したモデルでも、長いエージェントコンテキストにおいて、プローブされないプロンプトに対して保留を示す場合があります。誤った拒否をデバッグする際、これを考慮してください。

ファインチューニング済みモデルは、過剰順応を示します。拒否を除去するデータフィルタリングは、他の出力に対する制約も除去します。Dolphinカードが「非倫理的なものを含むすべての要求に対して非常に順従」と説明していることは、これを裏付けています。デプロイ前のプローブはこの失敗は検出しませんが、本番リクエストでは検出されます。

操作可能モデルは、長いコンテキストでポリシー減衰を経験します。ポリシーはコンテキストに存在し、会話の成長に伴いその影響力は低下します。セッション開始時に設定された制限は、長時間の相互作用後に拘束力を失う可能性があります。

これら3つの失敗モードはすべて、長いコンテキスト現象です。エージェントワークロードは拡張されたコンテキストで動作するため、検証は2トークンのデモではなく、実際の動作コンテキスト長で行わなければなりません。

拒否除去の限界と将来の方向性

アブリテレーションは、知識が重みに存在し、使用への意欲のみが抑圧されていると仮定しています。イリノイ大学応用LLMガイドは、アブリテレーションがベースモデルにない知識を追加しないことを述べています。モデルは、元の重みと同じ程度に、あるトピックについて有用です。

研究者は、安全上の決定をプリトレインに移そうとしています。EleutherAIのDeep Ignorance(arXiv:2508.06601、ICLR 2026)は、プリトレインから危険な文書をフィルタリングします。この安全対策は、テストされたデータベースのファインチューニング攻撃に対して維持され、一般知識ベンチマークは最小限の変化のみを示しました。範囲に注意してください:彼らの実験は一般的な検閲ではなく、バイオ/CDNRプロキシを使用しています。訓練データを一切受けないモデルは、無知のために拒否します。重みの編集では、欠落した知識を回復できません。

Extended-Refusalファインチューニング(arXiv:2505.19056、2025年5月)は、複数のトークン位置にわたって、より長い理由のある拒否を訓練します。これにより、アブリテレーション後の拒否低下は、典型的な70〜80%に対し、約10%まで減少しました。推論モデルは、方向除去に関わらず、第一原理から拒否を再導出します。これらの発展はデータフィルタリングを必要としませんが、アブリテレーション自体の信頼性を低下させます。

アンセンソードサプライは増え続けています。ThreatDownの2026年レポートは、ホスティングされたアブリテレーション済みDeepSeekプロバイダー5社、フラグ付けされたモデル6,644件、および30日間の期間における2,200万回のダウンロードを超えを文書化しました。Hereticはバージョン2にあります。Deep Ignoranceは管理された概念実証です。プロバイダーは本番フィルタリング方法を公開しておらず、積極的なフィルタリングは能力のコストを伴います。オープンユーザーは、フィルタリングされていないベースチェックポイントを実行するか、非安全アダプタをマージし続けることができます。

モデル選択には現在、データ出所の審査が必要です。ベースが知識フィルタリングされた場合、アブリテレーションでは欠落したトピック知識を復元できません。モデルカードのデータ記述を、能力上の注意書きと同様に審査してください。

VRAMと使用ケースによるモデル推奨リスト

2026年のフィールドは、少数のモデルラインに集中しています:

モデル ルート VRAM (Q4) 推奨理由
Qwen3.8-27B (アブリテレーションビルド) アブリテレーション 16–24 GB 総合最良: コーディング、エージェント、マルチモーダル
Dolphin 3.0 Mistral 24B 拒否なしファインチューン 16–24 GB 関数呼び出し、一般チャット、R1推論バリアント
Hermes 4 (14B/36B/70B) 操作可能ポリシー 12 GB+ システムプロンプトごとに定義できる行動
Gemma 4 26B-A4B アンセンソード アブリテレーション (MoE, ~4B アクティブ) 12–16 GB modest ハードウェア上の高速性
Mistral Small 3.2 アブリテレーション アブリテレーション 12–16 GB フィクションと散文
Huihui GLM-5.1 アブリテレーション アブリテレーション 24 GB+ カードが許せば最高の上限

アブリテレーション済みQwen3.8-27Bが2026年のデフォルト選択です。Apache 2.0ライセンスを共有し、MTPおよびビジョンコンポーネントをサポートし、標準量子化で一般的なカードに収まります。ベースベンチマークについては、Qwen 4ファミリーページを参照してください。Hermes 4は、書かれたポリシーに基づいて拒否できるモデルが必要な場合に適切です。Gemma 4 MoEビルドは、16GB未満のハードウェアにおいて、一部の能力をスループット上の利点と交換します。

VRAM要件には、重み、KVキャッシュ、および約1〜2GBの実行時オーバーヘッドが含まれます。Q4_K_Mでは、重みのコストはパラメータあたり約0.6バイトです。Qwen3.8-27Bアブリテレーション4ビットGGUFは、コンテキストを除外して16.5〜16.8GBを必要とします。16GBカードでは、最小限のコンテキストでの低ビット量子化のみが収まり、24GBカードには余裕があります。Qwen2.5-7BのようなGQA 28層、4-KVヘッドモデルのKVキャッシュコストは、トークンあたり約56 KBであり、32Kコンテキストで1.8 GB、128Kコンテキストで7.5 GBになります。実際の動作コンテキストを予算化してください。

Qwen3.8-27BベースはApache 2.0ライセンスですが、OBLITERATUS、huihui-ai、philbert440からのアブリテレーションビルドはコミュニティによる編集です。huihui-aiは、そのビルドを概念実証としてフラグ付けし、本番または公開向けの使用を推奨していません。各リポジトリのパブリッシャーとライセンスファイルを確認してください。Qwen3.8-Flash-Nextビルドは、独自の条件を持つQwen Community License 1.0を使用しています。

意思決定フレームワーク

最初に効く制約に基づいて選択してください:

  • 信頼性の高いツールコールのために: 拒否なしファインチューンまたは操作可能モデル(Dolphin 3、Hermes 4)をQ4以上で使用してください。スキーマがテストされるまで、アブリテレーションビルドは実験的なものとして扱ってください。
  • 単一のボックスでのコーディングとビジョンにおける最大のオープンさのために: 構造を維持する量子化でサービングされた、アブリテレーション済みQwen3.8-27Bを使用してください。
  • 制限を自分で設定するために: 明示的なシステムプロンプトポリシーを持つHermes 4を使用してください。
  • チャットまたは散文の動作における厳しいVRAM予算のために: Mistral Small 3.2アブリテレーションまたはGemma 4 MoEビルドを使用してください。

実際の動作コンテキスト長で3つの検証チェックを実行してください:

  1. 拒否プローブ。 実際のワークロードから20〜50のプロンプト、アラインされたモデルで拒否をトリガーしたエッジケースを含むものを実行します。拒否と保留した非回答を別にカウントします。Featherlessは、この方法を実際の悪用リクエスト50〜100件で実行しています。

  2. 長さにおけるツールスキーマ。 実際のスキーマで、動作コンテキスト長のマルチターンツールコールループを実行します。これは、Strataクイックスタートに文書化されているQ4未満の構造化出力破損、およびアブリテレーションビルドで一般的なスキーマドリフトを検出します。

  3. 中立ディフ。 候補モデルとベースモデルの両方で、同じシードと貪欲デコーディングにより中立プロンプトを実行し、出力を並べて比較します。モデルカードがそれを公開していない場合、これはKL分散のプロキシとして機能します。

実行時、コンテキスト挙動、および量子化フォーマットはホスティングの決定です。ローカルLLM実行時比較を参照してください。


有用的リンク

出典、登場順:

サイト内:

購読する

システム、インフラ、AIエンジニアリングの新記事をお届けします。