So wählen Sie ein unzensiertes LLM aus: Abliterated im Vergleich zu Fine-Tuned

Eines der unzensierten Modelle auswählen: Kosten, Eignung, Tool-Aufrufe.

Inhaltsverzeichnis

„Uncensored“ deckt drei Methoden für offene Modelle aus dem Jahr 2026 ab, die keine Weigerung zeigen: Abliteration, refusal-freie Feinabstimmungen und steuerbare Richtlinien. Jede Methode verändert unterschiedliche Fähigkeiten; dieser Leitfaden vergleicht die Kosten und erstellt eine Kurzwahl basierend auf dem VRAM.

Ein Modell, das nie weigert, mangelt dem einzigen Reflex, der fehlerhafte Ausgaben ohne zusätzliche Eingriffe unterdrückt. Sie müssen Filterung und Urteil an anderer Stelle im Stack platzieren. Siehe Filterung eines Uncensored-LLMs für Anleitungen zur Positionierung der Sicherheitsschicht, sobald das Modell keine mehr bereitstellt. Die Entscheidung hier ist enger gefasst: welches nicht-weigernde Modell Sie für eine gegebene GPU und Arbeitslast bereitzustellen sollten.

Auswahl zwischen drei offenen Wegen für ein nicht-weigerndes Modell

Jede Zahl unten stammt aus einem veröffentlichten Community-Bericht oder einer Model Card vom 11.11.2026, zitiert an der jeweiligen Verwendungsstelle. Keine wurde auf unserer eigenen Hardware gemessen. Diese Seite befindet sich im Cluster KI-Modelle: Modellwahl und Kosten des Weges, nicht Bereitstellung oder Systemdesign.

Warum Modelle nicht-weigernd gemacht werden

Hauptstrom-Chatmodelle werden so ausgerichtet, bestimmte Anfragekategorien durch trainiertes Verhalten abzulehnen. Diese Weigerung spiegelt keine Fähigkeitsgrenze wider; ein Modell, das sich weigert, eine Phishing-E-Mail zu erklären, verfügt in der Regel über die Fähigkeit, dies zu tun. Die MDPI-Umfrage 2025 „Uncensored AI in the Wild“ (https://www.mdpi.com/1999-5903/17/10/477) dokumentierte über 8.000 solche Repositories, hauptsächlich auf Hugging Face, und kam zu dem Schluss, dass die Nachfrage breit und nicht nur marginal ist.

Drei Zwecke treiben die Entwicklung an. Sicherheitsanalysen und Code, der echte Schwachstellen erwähnt, lösen Weigerungen aus, die für andere Bedrohungsmodelle konzipiert sind. Weigerungsregeln, die in den Gewichten eingebettet sind, verhindern, dass Betreiber Einschränkungen ohne Gewichtseditierungen oder Neutraining lockern. Forscher untersuchen Ausrichtung durch Editierung von Weigerungen, und Tools wie Heretic automatisieren diese Technik.

Praktische Anwendungen umfassen die unten aufgeführten Fälle der Sicherheitstests, des Programmierens, des Debuggens, des Fiktivschreibens, der medizinischen Ausbildung, des Rollenspiels und der Ausrichtungsforschung – dieselbe Liste, auf die die Sicherheits- und Abliterations-Guides immer wieder zurückkommen (Locally Uncensored). Eine legitime Aufgabe, die mit einer für einen anderen Fall kalibrierten Weigerung paart, ist die häufige Rechtfertigung für die Entfernung dieser Weigerung.

Anwendungsfall Was der Filter blockiert
Sicherheitstests / Red-Teaming Entwurf von Exploit-PoCs, Malware zur Analyse, Phishing-Köder für Mitarbeiterschulungen
Sicherheitsrelevante Programmierung Code, der eine echte CVE oder ein Tool benennt, was ausgerichtete Modelle so ablehnen, als wäre es ein Angriff
Debuggen falscher Weigerungen Das ausgerichtete Modell lehnt einen legitimen Prompt oft genug ab, um eine Agenten-Schleife zu brechen
Fiktion und erwachsenes kreatives Schreiben Reife Themen, die Hauptstrom-Assistenten selbst für Fiktionen erwachsener einwilligender Personen ablehnen
Medizinische und sexuelle Aufklärung Klinische oder bildungsinhaltliche Inhalte, die Sicherheitsfilter auslösen
Rollenspiel- und Companion-Bauten Persona-Arbeit, die die Vendor-Richtlinie als außerhalb des Anwendungsbereichs behandelt
Ausrichtungs-/Sicherheitsforschung Messen, was Weigerungen fangen und was nicht, indem sie unter kontrollierten Bedingungen entfernt werden

Drei Methoden der Weigerungsentfernung

Abliteration editiert Gewichte ohne Neutraining. Arditi et al. stellten fest, dass Weigerung in Chatmodellen von einer einzelnen Richtung im Reststrom getragen wird (https://arxiv.org/abs/2406.11717). Gewichte werden orthogonalisiert gegen diese Richtung, identifiziert durch den Vergleich von Aktivierungen auf schädlichen und harmlosen Prompts. Maxime Labonnes Abliteration-Anleitung dient als Referenz für die meisten öffentlichen Builds. Der huihui-ai Qwen3.8-27B-Build (https://huggingface.co/huihui-ai/Huihui-Qwen3.8-27B-abliterated) ablatiert Schichten 18 bis 51 unter Apache 2.0 und lässt MTP- und visuelle Komponenten unberührt.

Refusal-freie Feinabstimmung trainiert Verhalten über längere Zeiträume neu. Dolphin 3.0, entwickelt von Cognitive Computations für Eric Hartford, verwendet Trainingsdaten, aus denen Ausrichtungssignale entfernt wurden. Die Ollama-Card lautet: „Wir haben den Datensatz gefiltert, um Ausrichtung und Verzerrung zu entfernen.“ Dolphin 3.0 R1 Mistral 24B wurde auf 800k DeepSeek-R1-Schlussfolgerungsspuren neben dem uncensored-Korpus trainiert. Die Card beschreibt das Modell als hochkompatibel mit allen Anfragen, einschließlich unethischer, und rät, vor der Bereitstellung eine unabhängige Ausrichtungsschicht zu implementieren.

Steuerbare Richtigkeitsmodelle wie Hermes 4 von NousResearch sind neutral ausgerichtet und werden von der System-Prompt-Richtlinie gesteuert. Weigerung ist gesteuert, und der Technische Bericht von Nous zeigt, dass der System-Prompt die Schlussfolgerung umgestaltet, nicht nur die Oberflächentonalität. Die Richtlinie verbraucht Kontext-Tokens und schwächt sich ab, je länger die Konversation wird. Der 2026er-Guide von Locally Uncensored berichtet, dass steuerbare Richtlinien bei langem Kontext brechen, im Vergleich zu 1–3 Stunden für Abliteration und Tagen für Feinabstimmung.

Gemessene Kosten der Weigerungsentfernung

Kollateralschäden variieren stark über Abliterationsmethoden hinweg. Heretic (https://github.com/p-e-w/heretic) berichtet über Gemma-3-12B-IT, dass drei zensierte Versionen jeweils die Weigerung bei schädlichen Prompts auf 3 von 100 reduzierten, abwärts von 97 von 100 im Standardmodell. Die KL-Divergenz vom Original bei neutralen Eingaben betrug 1.04 für manuelle Abliteration (99,9 % der Gewichte, keine Parametersuche), 0.45 für Labonnes teilweise Suche und 0.16 für Heretics vollständige Suche.

HarmBench-Angriffserfolg bei Qwen-2.5-7B stieg von 31,0 % für das ausgerichtete Modell auf 98,2–100,0 % für die nicht-weigernde Version (DreamFast HF-Card). Qwen3.8-27B MMLU fiel um 2,12 Prozentpunkte von 84,46 % auf 82,33 % im OBLITERATUS-Build, zitiert via Featherless. GSM8K für Qwen-2.5-7B verbesserte sich um 1,5 bis 1,6 Prozentpunkte von 79,23 % auf 80,74–80,82 % (DreamFast-Card). Vul4J-Schwachstellenerkennung fiel von 58,42 % auf 57,22 %, während kompilierbare Patches von 9,04 % auf 32,77 % in einer Studie von Juli 2026 stiegen (arXiv:2607.05842).

Weigerung und Fähigkeit sind verschiedene Zahlen, und die Tabellen behandeln sie so. Das Weigerungsergebnis – was das Modell nun tun wird:

Weigerungsergebnis Ausgerichtet Nicht-weigernd Quelle
HarmBench-Angriffserfolg, Qwen-2.5-7B 31,0 % 98,2–100,0 % DreamFast, HF-Modellcard

Die Fähigkeitsdifferenz – was die Editierung an Wissen und Schlussfolgerung kostete:

Fähigkeitsdifferenz Ausgerichtet Nicht-weigernd Quelle
MMLU, Qwen3.8-27B 84,46 % 82,33 % (−2,12 pp) OBLITERATUS-Card, via Featherless
GSM8K, Qwen-2.5-7B 79,23 % 80,74–80,82 % (+1,5 bis +1,6 pp) DreamFast, HF-Modellcard
Vul4J-Schwachstellenerkennung 58,42 % 57,22 % Studie derselben Linie aus Juli 2026 (arXiv:2607.05842), via Featherless
Vul4J kompilierbare Patches 9,04 % 32,77 % dieselbe Studie

Der Bericht von Anthropic aus 2026 (https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities) produzierte einen abliterierten GLM-5.3 mit reduzierten Weigerungsquoten von über 90 % auf 3 % bei JailbreakBench, 2 % bei HarmBench und 12 % bei StrongREJECT. Die Editierung kostete etwa 2.200 GPU-Stunden (~4.400 USD); die Flash-Variante kostete etwa 600. GPQA-Diamond-Werte blieben unverändert, und CyberGym sank um einige Prozentpunkte.

OrcaRouter dokumentiert zwei DeepSeek V4.1 Flash-Builds mit verschiedenen Weigerungsergebnissen: einer behielt 24 von 100 Weigerungen, während der andere 4 bei Chat-Prompts behielt, mit einer First-Token-KL von 0.067 bei harmlosen Eingaben. Kein Verlag hat einen Fähigkeitsbenchmark für einen abliterierten Build veröffentlicht. In öffentlichen Cards aufgeführte Fähigkeitszahlen wurden auf dem Basis-Checkpoint gemessen. Prüfen Sie jede Card für das, was entfernt wurde, und bewerten Sie Fähigkeit nur dort, wo Benchmarks Vorher- und Nachher-Werte angeben.

Abliteration erhält Wissensbenchmarks und verbessert manchmal mathematische Schlussfolgerung. Sie verändert, wie das Modell dieses Wissen verwendet. Ein Modell, das Schwachstellen genauso gut erkennt wie sein ausgerichteter Gegenpart, ist um ein Mehrfaches wahrscheinlicher, einen funktionierenden Patch zu produzieren. Wenn die Aufgabe die Produktion von Artefakten ist, ist die Editierung nützlich. Wenn die Aufgabe Zurückhaltung erfordert, muss der Betreiber sie bereitstellen.

Heretic (Philipp Emanuel Weidmann, erstmals Ende 2025 veröffentlicht) automatisiert gerichtete Ablation mit Optuna-Parametersuche, die Weigerungen und KL-Divergenz gemeinsam minimiert. Qwen-2.5-7B-Abliteration berührte 37 von 339 Tensoren in Schichten 9–27. Apostate berührte 55 Tensoren über 27 Schichten hinweg, und huihui-ai berührte 57 Tensoren über alle 28 Schichten (DreamFast-Forensik). Der Befehl heretic <model-id> erfordert das heretic-llm-Paket (pip install -U heretic-llm). Ein 4B-Modell (Qwen3-4B-Instruct) abliterierte in 20–30 Minuten auf einer RTX 3090. Community-Berichte stellen 7B–9B-Modelle bei 20–90 Minuten und 12B–27B-Modelle bei einer Stunde oder mehr auf 4090-, 5090- oder A100-Hardware. Die Konfiguration unterstützt bnb_4bit-Quantisierung für Low-VRAM-Karten. Gemma-Modelle erfordern die winsorization_quantile, die auf 0,95 gesetzt ist. MoE- und 24B-Klasse-Bauten erfordern 4-Bit-Quantisierung, um auf eine 24-GB-Karte zu passen. Gated-Checkpoints erfordern Hugging Face-Authentifizierung. Ein vollständiger Lauf dauert etwa einen halben Tag.

Die Editierung verwendet Gleitkomma-Gewichte voller Präzision, aber Bereitstellungen verwenden typischerweise GGUF-Quantisierung. Quantisierung rundet jedes Gewicht, einschließlich editierter Tensoren. Veröffentlichte GGUF-Bauten beinhalten zwei Lieferkettenstufen: Editierung und Quantisierung, und keine Stufe wird notwendigerweise von Ihnen durchgeführt. Rundung kann Teile der entfernten Richtung reaktivieren; die Streuung der Weigerung von 3/100 gegenüber 24/100 bei derselben Basis zeigt die Größe dieses Effekts.

Tool Calling und Lieferkettenrisiko

Zuverlässigkeit des Funktionsaufrufs korreliert nicht mit der Weigerungsrate. Abliteration optimiert für Weigerung und KL-Divergenz, nicht für Schema-Treue, daher erbt ein abliterierter Build das Tool-Calling-Verhalten des Basismodells. Bereitstellungsvorlagen können es weiter brechen. Die Dolphin 3 Ollama-Vorlage wurde ohne Tool-Unterstützung ausgeliefert (Ollama #8329). Ein abliterierter Checkpoint, der ein Tools-Schema mitten im Gespräch fallen lässt, ist nicht für Agentennutzung geeignet.

ProjectDiscovery demonstrierte einen zurückgepflanzten Qwen2.5-7B, der bei Empfang eines versteckten Trigger-Satzes eine Shell-Payload via Tool-Aufruf diente. Der Backdoor wurde für unter 50 USD gebaut und bestand an Verhaltens-Tests. Editierte Gewichte können Backdoors tragen, und abliterierte Builds sind genau die, die von Hugging Face ohne Inspektion gezogen werden. Verifizieren Sie Herkunft und beschränken Sie Zugriff auf die Bereitstellungskiste, bevor Sie Agenten auf uninspektierten Modellen ausführen.

Sub-Q4-Quantisierung korrupt strukturierte Ausgabe, wie im Strata Qwen3.8-Flash-Next-Quickstart dokumentiert. Planen Sie VRAM für Q4_K_M oder höher ein und testen Sie das Schema vor der Bereitstellung. Siehe Das beste LLM für Ollama auf 16 GB VRAM wählen für VRAM-Messungen.

Fehlermodi nach Methode

Abliterierte Modelle behalten Restweigerungen bei. Langkontext-Prompts können weiches Moraliseren produzieren, auch wenn harte Weigerungen nicht wiederkehren. Schlussfolgerungsmodelle leiten Weigerungen aus ersten Prinzipien neu ab, nachdem die Richtung entfernt wurde. Ein Modell, das eine 20-Prompt-Probe besteht, kann in einem langen Agentenkontext bei ungeprüften Prompts wackeln; planen Sie dies beim Debuggen falscher Weigerungen.

Feinabgestimmte Modelle zeigen Über-Kompatibilität. Datenfilterung, die Weigerung entfernt, entfernt auch die Einschränkung anderer Ausgaben. Die Dolphin-Card-Beschreibung als hochkompatibel mit allen Anfragen, einschließlich unethischer, bestätigt dies. Vor-Bereitungs-Probes zeigen diesen Fehler nicht; Produktionsanfragen schon.

Steuerbare Modelle erleben Richtungsverfall in langem Kontext. Die Richtlinie lebt im Kontext, und ihr Einfluss nimmt ab, je länger die Konversation wird. Grenzen, die am Anfang einer Sitzung gesetzt wurden, können nach ausgedehnter Interaktion nicht mehr binden.

Alle drei Fehlermodi sind Langkontext-Phänomene. Agenten-Arbeitslasten laufen bei ausgedehntem Kontext, daher muss Validierung bei der tatsächlichen Betriebskontextlänge stattfinden, nicht bei Zwei-Token-Demonstrationen.

Grenzen und zukünftige Richtung der Weigerungsentfernung

Abliteration nimmt an, dass Wissen in den Gewichten existiert und nur die Bereitschaft zu seiner Verwendung unterdrückt ist. Der University of Illinois Applied LLMs-Guide stellt fest, dass Abliteration kein Wissen hinzufügt, das im Basismodell fehlt. Ein Modell ist nur so hilfreich in einem Thema, wie die Originalgewichte es waren.

Forscher verschieben Sicherheitsentscheidungen ins Pretraining. EleutherAIs Deep Ignorance (arXiv:2508.06601, ICLR 2026) filtert gefährliche Dokumente aus dem Pretraining. Die Sicherung hielt stand gegen getestete datenbasierte Feinabstimmungsangriffe, und Allgemein-Wissensbenchmarks zeigten minimale Veränderung. Beachten Sie den Umfang: ihre Experimente verwenden einen Bio/CDNR-Proxy, keine allgemeine Zensur. Ein Modell, das keine Trainingsdaten empfängt, weigert sich aus Unwissenheit; keine Gewichtseditierung stellt fehlendes Wissen wieder her.

Extended-Refusal-Feinabstimmung (arXiv:2505.19056, Mai 2025) trainiert längere gerechtfertigte Weigerungen über mehrere Tokenpositionen. Dies reduzierte den nach-Abliteration-Weigerungsabfall auf etwa 10 % im Vergleich zum typischen 70–80 %. Schlussfolgerungsmodelle leiten Weigerungen aus ersten Prinzipien neu ab, unabhängig von Richtungsentfernung. Diese Entwicklungen erfordern keine Datenfilterung, reduzieren aber die Abliterationszuverlässigkeit auf ihre eigenen Bedingungen.

Der Uncensored-Vorrat wächst weiter. ThreatDowns 2026er-Bericht dokumentierte fünf gehostete abliterierte-DeepSeek-Anbieter, 6.644 markierte Modelle und über 22 Millionen Downloads in einem 30-Tage-Fenster. Heretic ist in Version zwei. Deep Ignorance ist ein kontrollierter Proof of Concept. Anbieter offenbaren keine Produktionsfilterungsmethoden, und aggressive Filterung kostet Fähigkeit. Offene Benutzer können weiterhin ungefilterte Basis-Checkpoints ausführen oder un-safety-Adapter mergen.

Modellwahl erfordert nun Prüfung der Datenherkunft. Wenn die Basis wissensgefiltert war, kann Abliteration fehlendes Themenwissen nicht wiederherstellen. Prüfen Sie die Datenangabe der Modellcard auf dieselbe Weise wie ihre Fähigkeitswarnung.

Kurzwahl nach VRAM und Anwendungsfall

Das 2026er-Feld konzentriert sich auf eine Handvoll Modelllinien:

Modell Route VRAM (Q4) Wählen Sie es für
Qwen3.8-27B (abliterierte Builds) Abliteration 16–24 GB Beste Gesamtleistung: Programmierung, Agenten, multimodal
Dolphin 3.0 Mistral 24B Refusal-freie Feinabstimmung 16–24 GB Funktionsaufruf, allgemeiner Chat, R1-Schlussfolgerungsvariante
Hermes 4 (14B/36B/70B) Steuerbare Richtlinie 12 GB+ Verhalten, das Sie pro System-Prompt definieren
Gemma 4 26B-A4B uncensored Abliteration (MoE, ~4B aktiv) 12–16 GB Geschwindigkeit auf mäßiger Hardware
Mistral Small 3.2 abliteriert Abliteration 12–16 GB Fiktion und Prosa
Huihui GLM-5.1 abliteriert Abliteration 24 GB+ Höchste Grenze, wenn die Karte es zulässt

Der abliterierte Qwen3.8-27B ist die 2026er-Standardwahl. Er teilt die Apache 2.0-Lizenz, unterstützt MTP- und Vision-Komponenten und passt auf gängige Karten bei Standardquantisierung. Siehe die Qwen 4 Familien-Seite für Basisbenchmarks. Hermes 4 ist geeignet, wenn Sie ein Modell benötigen, das gemäß einer schriftlichen Richtlinie weigern kann. Der Gemma 4 MoE-Build tauscht etwas Fähigkeit gegen Durchsatzvorteile auf Hardware unter 16 GB ein.

VRAM-Anforderungen umfassen Gewichte, KV-Cache und etwa 1–2 GB Laufzeit-Overhead. Bei Q4_K_M kosten Gewichte etwa 0,6 Byte pro Parameter. Qwen3.8-27B abliterierte 4-Bit-GGUFs erfordern 16,5–16,8 GB vor Kontext. Eine 16-GB-Karte fasst nur eine Low-Bit-Quantisierung mit minimalem Kontext; eine 24-GB-Karte bietet Spielraum. KV-Cache-Kosten betragen etwa 56 KB pro Token für ein GQA 28-Schichten, 4-KV-Head-Modell wie Qwen2.5-7B, insgesamt 1,8 GB bei 32K-Kontext und 7,5 GB bei 128K-Kontext. Planen Sie für den tatsächlichen Betriebskontext.

Das Qwen3.8-27B-Basis ist unter Apache 2.0 lizenziert, aber abliterierte Builds von OBLITERATUS, huihui-ai und philbert440 sind Community-Editierungen. huihui-ai markiert seinen Build als Proof of Concept und rät von Produktions- oder öffentlichem Gebrauch ab. Prüfen Sie den Verlag und die Lizenzdatei für jedes Repository. Qwen3.8-Flash-Next-Bauten verwenden die Qwen Community License 1.0 mit ihren eigenen Bedingungen.

Entscheidungsrahmen

Wählen Sie nach der Einschränkung, die zuerst beißt:

  • Für zuverlässige Tool-Aufrufe: verwenden Sie eine refusal-freie Feinabstimmung oder ein steuerbares Modell (Dolphin 3, Hermes 4) bei Q4 oder höher; behandeln Sie abliterierte Builds als experimentell, bis das Schema getestet ist.
  • Für maximale Offenheit auf einer einzigen Box mit Programmierung und Vision: verwenden Sie abliterierten Qwen3.8-27B, bereitgestellt bei einer Quantisierung, die Struktur erhält.
  • Um die Grenzen selbst zu setzen: verwenden Sie Hermes 4 mit einer expliziten System-Prompt-Richtlinie.
  • Für knappe VRAM-Budgets beim Chat oder Prosa: verwenden Sie Mistral Small 3.2 abliteriert oder den Gemma 4 MoE-Build.

Führen Sie drei Validierungsprüfungen bei der tatsächlichen Betriebskontextlänge durch:

  1. Weigerungsprobe. Führen Sie 20–50 Prompts von Ihren tatsächlichen Arbeitslasten aus, einschließlich Grenzfall-Prompts, die Weigerungen bei ausgerichteten Modellen auslösten. Zählen Sie Weigerungen und ausgewogene Nicht-Antworten separat. Featherless führt diese Methode mit 50–100 echten Missbrauchsanfragen durch.

  2. Tool-Schema bei Länge. Führen Sie eine mehrstufige Tool-Calling-Schleife auf Ihrem tatsächlichen Schema bei Betriebskontextlänge aus. Dies erkennt strukturierte-Ausgabe-Korruption unter Q4, wie im Strata-Quickstart dokumentiert, und Schema-Drift, die in abliterierten Builds häufig ist.

  3. Neutrale Differenz. Führen Sie neutrale Prompts mit demselben Seed und gierigem Decoding sowohl auf dem Kandidaten als auch auf dem Basismodell aus; vergleichen Sie Ausgaben Seite an Seite. Dies dient als Proxy für KL-Divergenz, wenn die Modellcard sie nicht veröffentlicht.

Laufzeit, Kontextverhalten und Quantisierungsformat sind Hosting-Entscheidungen. Verweisen Sie auf den Lokale LLM-Laufzeitvergleich.


Quellen, in Reihenfolge ihres Erscheinens:

Auf der Seite:

Abonnieren

Neue Beiträge zu Systemen, Infrastruktur und KI-Engineering.