Comment choisir un LLM sans censure : Abliterated ou fine-tuned
Choisissez un modèle sans censure : coût, adéquation, appels d’outils.
« Non censuré » présente trois méthodes 2026 pour les modèles ouverts qui ne refusent rien : l’abliteration, l’ajustement fin sans refus et la politique pilotable. Chacune modifie différentes capacités ; ce guide compare les coûts et établit une sélection selon la mémoire VRAM.
Un modèle qui ne refuse jamais manque du réflexe unique qui supprime les sorties incorrectes sans intervention supplémentaire. Vous devez placer le filtrage et le jugement ailleurs dans la pile. Reportez-vous à Filtrage d’un LLM non censuré pour des conseils sur le positionnement de la couche de sécurité une fois que le modèle n’en fournit plus. La décision ici est plus étroite : quel modèle non refusant déployer pour un GPU et une charge de travail donnés.

Chaque chiffre ci-dessous provient d’un rapport communautaire publié ou d’une fiche modèle en date du 11/11/2026, cité au point d’utilisation. Aucun n’a été mesuré sur notre propre matériel. Cette page se situe sous le cluster Modèles d’IA : choix du modèle et coût du chemin, pas le service ou la conception système.
Pourquoi les modèles sont rendus non refusants
Les modèles de discussion principaux sont alignés pour refuser certaines catégories de demandes par un comportement entraîné. Ce refus ne reflète pas une limite de capacité ; un modèle qui refuse d’expliquer un courriel de hameçonnage possède généralement la capacité de le faire. L’enquête MDPI 2025 « Uncensored AI in the Wild » (https://www.mdpi.com/1999-5903/17/10/477) a documenté plus de 8 000 tels dépôts, principalement sur Hugging Face, et a conclu que la demande est large plutôt que marginale.
Trois objectifs orientent le développement. L’analyse de la sécurité et le code mentionnant des vulnérabilités réelles déclenchent des refus conçus pour d’autres modèles de menaces. Les règles de refus intégrées aux poids empêchent les opérateurs d’assouplir les contraintes sans modification des poids ou réentraînement. Les chercheurs étudient l’alignement en modifiant les refus, et des outils comme Heretic automatisent cette technique.
Les applications pratiques incluent les tests de sécurité, le codage, le débogage, l’écriture de fiction, l’éducation médicale, le jeu de rôle et la recherche d’alignement énumérés ci-dessous — la même liste à laquelle les guides de sécurité et d’abliteration reviennent sans cesse (Locally Uncensored). Une tâche légitime appariée à un refus calibré pour un autre cas d’utilisation est la justification courante pour supprimer ce refus.
| Cas d’usage | Ce que le filtre bloque |
|---|---|
| Tests de sécurité / red-teaming | Rédaction d’exploit PoC, malware pour analyse, appâts de hameçonnage pour formation du personnel |
| Codage sensible à la sécurité | Code qui nomme une CVE ou un outil réel, que les modèles alignés refusent comme s’il s’agissait d’une attaque |
| Débogage des faux refus | Le modèle aligné qui refuse un invite légitime assez souvent pour rompre une boucle d’agent |
| Fiction et écriture créative adulte | Thèmes mûrs que les assistants principaux refusent même pour de la fiction pour adultes consentants |
| Éducation médicale et sexuelle | Contenu clinique ou éducatif qui déclenche les filtres de sécurité |
| Jeux de rôle et compagnons | Travail de persona que la politique du fournisseur considère hors périmètre |
| Recherche d’alignement/sécurité | Mesurer ce que les refus attrapent ou non, en les supprimant sous des conditions contrôlées |
Trois méthodes de suppression des refus
L’abliteration modifie les poids sans réentraînement. Arditi et al. ont découvert que le refus dans les modèles de discussion est porté par une direction unique dans le flux résiduel (https://arxiv.org/abs/2406.11717). Les poids sont orthogonaux à cette direction, identifiée en comparant les activations sur des invites nuisibles et inoffensives. Le tutoriel d’abliteration de Maxime Labonne sert de référence pour la plupart des constructions publiques. La construction Qwen3.8-27B de huihui-ai (https://huggingface.co/huihui-ai/Huihui-Qwen3.8-27B-abliterated) ablate les couches 18 à 51 sous Apache 2.0, laissant les composants MTP et visuels intacts.
L’ajustement fin sans refus réentraîne le comportement sur des durées plus longues. Dolphin 3.0, développé par Cognitive Computations pour Eric Hartford, utilise des données d’entraînement dont les signaux d’alignement sont supprimés. La fiche Ollama indique : « Nous avons filtré le jeu de données pour supprimer l’alignement et les biais. » Dolphin 3.0 R1 Mistral 24B a été entraîné sur 800 000 traces de raisonnement DeepSeek-R1 en plus du corpus non censuré. La fiche décrit le modèle comme très conforme à toutes les demandes, y compris les répréhensibles, et conseille de mettre en place une couche d’alignement indépendante avant le déploiement.
Les modèles à politique pilotable comme Hermes 4 de NousResearch sont alignés neutralement et gouvernés par la politique de l’invite système. Le refus est conditionnel, et le rapport technique de Nous montre que l’invite système redessine le raisonnement, pas seulement le ton de surface. La politique consomme des jetons de contexte et s’affaiblit au fur et à mesure que les conversations s’allongent. Le guide 2026 de Locally Uncensored signale que la politique pilotable casse sur le long contexte, comparée à 1 à 3 heures pour l’abliteration et des jours pour l’ajustement fin.
Coûts mesurés de la suppression des refus
Les dommages collatéraux varient largement entre les méthodes d’abliteration. Heretic (https://github.com/p-e-w/heretic) rapporte sur Gemma-3-12B-IT que trois versions décensurées ont chacune réduit le refus des invites nuisibles à 3 sur 100, contre 97 sur 100 sur le modèle d’origine. L’écart de KL sur des entrées neutres était de 1,04 pour l’abliteration manuelle (99,9 % des poids, pas de recherche de paramètres), 0,45 pour la recherche partielle de Labonne et 0,16 pour la recherche complète d’Heretic.
La réussite d’attaque HarmBench sur Qwen-2.5-7B est passée de 31,0 % pour le modèle aligné à 98,2 à 100,0 % pour la version non refusante (Fiche HF DreamFast). MMLU de Qwen3.8-27B a chuté de 2,12 points de pourcentage, de 84,46 % à 82,33 % dans la construction OBLITERATUS citée via Featherless. GSM8K pour Qwen-2.5-7B s’est amélioré de 1,5 à 1,6 point de pourcentage, de 79,23 % à 80,74 à 80,82 % (fiche DreamFast). La détection de vulnérabilités Vul4J est passée de 58,42 % à 57,22 %, tandis que les correctifs compilables sont passés de 9,04 % à 32,77 % dans une étude de juillet 2026 (arXiv:2607.05842).
Le refus et la capacité sont des nombres différents, et les tableaux les traitent ainsi. Le résultat de refus — ce que le modèle va maintenant faire :
| Résultat de refus | Aligné | Non refusant | Source |
|---|---|---|---|
| Réussite d’attaque HarmBench, Qwen-2.5-7B | 31,0 % | 98,2 à 100,0 % | DreamFast, fiche modèle HF |
L’écart de capacité — ce que la modification a coûté en connaissances et en raisonnement :
| Écart de capacité | Aligné | Non refusant | Source |
|---|---|---|---|
| MMLU, Qwen3.8-27B | 84,46 % | 82,33 % (−2,12 pts) | Fiche OBLITERATUS, via Featherless |
| GSM8K, Qwen-2.5-7B | 79,23 % | 80,74 à 80,82 % (+1,5 à +1,6 pt) | DreamFast, fiche modèle HF |
| Détection de vulnérabilités Vul4J | 58,42 % | 57,22 % | Étude de juillet 2026 de même lignée (arXiv:2607.05842), via Featherless |
| Correctifs Vul4J compilables | 9,04 % | 32,77 % | même étude |
Le rapport 2026 d’Anthropic (https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities) a produit un GLM-5.3 ablité dont les taux de refus ont été réduits de plus de 90 % à 3 % sur JailbreakBench, 2 % sur HarmBench et 12 % sur StrongREJECT. La modification a coûté environ 2 200 heures-GPU (≈ 4 400 $) ; la variante Flash a coûté environ 600. Les scores GPQA-Diamond sont restés inchangés, et CyberGym a chuté de quelques points de pourcentage.
OrcaRouter documente deux constructions DeepSeek V4.1 Flash avec des résultats de refus différents : l’une a conservé 24 refus sur 100, tandis que l’autre en a conservé 4 sur les invites de discussion avec un KL du premier jeton de 0,067 sur des entrées inoffensives. Aucun éditeur n’a publié un benchmark de capacité pour une construction ablité. Les chiffres de capacité listés dans les fiches publiques ont été mesurés sur le point de contrôle de base. Examinez chaque fiche pour savoir ce qui a été supprimé, et évaluez la capacité uniquement lorsque les benchmarks nomment les valeurs avant et après.
L’abliteration préserve les benchmarks de connaissances et améliore parfois le raisonnement mathématique. Elle change la manière dont le modèle utilise ces connaissances. Un modèle détectant les vulnérabilités aussi bien que son homologue aligné est plusieurs fois plus susceptible de produire un correctif fonctionnel. Si la tâche est la production d’artefacts, la modification est utile. Si la tâche exige de la retenue, l’opérateur doit la fournir.
Heretic (Philipp Emanuel Weidmann, première fin de publication 2025) automatise l’ablation directionnelle avec une recherche de paramètres Optuna qui co-minimise les refus et l’écart de KL. L’abliteration de Qwen-2.5-7B a touché 37 tenseurs sur 339 dans les couches 9 à 27. Apostate a touché 55 tenseurs sur 27 couches, et huihui-ai a touché 57 tenseurs sur les 28 couches (forensics DreamFast). La commande heretic <model-id> nécessite le paquet heretic-llm (pip install -U heretic-llm). Un modèle 4B (Qwen3-4B-Instruct) ablité en 20 à 30 minutes sur un RTX 3090. Les rapports communautaires placent les modèles 7B à 9B à 20 à 90 minutes et les modèles 12B à 27B à une heure ou plus sur du matériel 4090, 5090 ou A100. La configuration prend en charge la quantification bnb_4bit pour les cartes à faible VRAM. Les modèles Gemma nécessitent la winsorization_quantile réglée à 0,95. Les constructions MoE et de classe 24B nécessitent une quantification 4 bits pour tenir sur une carte 24 Go. Les points de contrôle à puce nécessitent l’authentification Hugging Face. Une exécution complète prend environ une demi-journée.
La modification utilise des poids à pleine précision, mais les déploiements utilisent typiquement la quantification GGUF. La quantification arrondit chaque poids, y compris les tenseurs modifiés. Les constructions GGUF publiées impliquent deux étapes de chaîne d’approvisionnement : modification et quantification, et aucune étape n’est nécessairement effectuée par vous. L’arrondi peut réactiver des portions de la direction supprimée ; l’écart de refus 3/100 contre 24/100 sur la même base indique l’ampleur de cet effet.
Appel de fonctions et risque de chaîne d’approvisionnement
La fiabilité de l’appel de fonctions ne correlate pas avec le taux de refus. L’abliteration optimise pour le refus et l’écart de KL, pas la fidélité du schéma, donc une construction ablité hérite du comportement d’appel de fonctions du modèle de base. Les gabarits de service peuvent encore le casser. Le gabarit Ollama Dolphin 3 a été livré sans prise en charge des outils (Ollama #8329). Un point de contrôle ablité qui perd un schéma d’outils en cours de conversation n’est pas adapté à l’usage d’agent.
ProjectDiscovery a démontré un Qwen2.5-7B saboté qui servait une charge utile de shell via un appel d’outil lors de la réception d’une phrase déclencheur cachée. La porte dérobée a été construite pour moins de 50 $ et a passé les tests de comportement propre. Les poids modifiés peuvent porter des portes dérobées, et les constructions ablités sont précisément celles qui sont tirées de Hugging Face sans inspection. Vérifiez la provenance et restreignez l’accès à la boîte de service avant d’exécuter des agents sur des modèles non inspectés.
La quantification sous-Q4 corrompt la sortie structurée, comme documenté dans le démarrage rapide Strata Qwen3.8-Flash-Next. Prévoyez de la VRAM pour Q4_K_M ou supérieur, et testez le schéma avant le déploiement. Voir Choisir le meilleur LLM pour Ollama sur 16 Go de VRAM pour les mesures de VRAM.
Modes de défaillance par méthode
Les modèles ablités conservent un refus résiduel. Les invites de long contexte peuvent produire un moralisme mou même lorsque les refus durs ne se reproduisent pas. Les modèles de raisonnement redérivent les refus des premiers principes après la suppression de la direction. Un modèle passant une sonde de 20 invites peut hésiter dans un contexte d’agent long sur des invites non sondées ; prévoyez-le lors du débogage des faux refus.
Les modèles ajustés finement présentent une sur-conformité. Le filtrage de données qui supprime le refus supprime aussi la contrainte sur d’autres sorties. La description de la fiche Dolphin comme très conforme à toutes les demandes, y compris les répréhensibles, confirme ceci. Les sondes de pré-déploiement ne font pas surface cette défaillance ; les demandes de production, si.
Les modèles pilotables connaissent un déclin de la politique dans le long contexte. La politique vit dans le contexte, et son influence diminue au fur et à mesure que les conversations s’allongent. Les limites fixées au début d’une session peuvent cesser de lier après une interaction étendue.
Les trois modes de défaillance sont des phénomènes de long contexte. Les charges de travail d’agent tournent en contexte étendu, donc la validation doit se produire à la longueur de contexte de fonctionnement réelle plutôt qu’à des démonstrations de deux jetons.
Limites et direction future de la suppression des refus
L’abliteration suppose que la connaissance existe dans les poids et que seule la volonté de l’utiliser est supprimée. Le guide Applied LLMs de l’Université de l’Illinois indique que l’abliteration n’ajoute pas de connaissance absente du modèle de base. Un modèle n’est utile sur un sujet que dans la mesure où les poids d’origine l’étaient.
Les chercheurs déplaçent les décisions de sécurité vers la pré-formation. La Deep Ignorance d’EleutherAI (arXiv:2508.06601, ICLR 2026) filtre les documents dangereux de la pré-formation. La garde-fou a tenu contre les attaques d’ajustement fin basées sur des données testées, et les benchmarks de connaissances générales ont montré un changement minimal. Notez le périmètre : leurs expériences utilisent un proxy bio/CDNR, pas la censure générale. Un modèle qui ne reçoit jamais de données d’entraînement refuse par ignorance ; aucune modification des poids ne récupère la connaissance absente.
L’ajustement fin Extended-Refusal (arXiv:2505.19056, mai 2025) entraîne de plus longs refus justifiés sur plusieurs positions de jetons. Cela a réduit la chute post-abliteration des refus à environ 10 % par rapport aux 70 à 80 % typiques. Les modèles de raisonnement redérivent les refus des premiers principes peu importe la suppression de la direction. Ces développements ne nécessitent pas de filtrage de données mais réduisent la fiabilité de l’abliteration en ses propres termes.
L’approvisionnement non censuré continue de croître. Le rapport 2026 de ThreatDown a documenté cinq fournisseurs hébergés de DeepSeek ablité, 6 644 modèles signalés et plus de 22 millions de téléchargements sur une fenêtre de 30 jours. Heretic est en version deux. Deep Ignorance est une preuve de concept contrôlée. Les fournisseurs ne divulguent pas les méthodes de filtrage de production, et le filtrage agressif coûte en capacité. Les utilisateurs ouverts peuvent toujours exécuter des points de contrôle de base non filtrés ou fusionner des adaptateurs non sécurisés.
Le choix de modèle nécessite désormais un examen de la provenance des données. Si la base était filtrée en connaissances, l’abliteration ne peut pas restaurer la connaissance du sujet absente. Examinez la déclaration de données de la fiche modèle de la même manière que vous examinez sa réserve de capacité.
Sélection de modèles par VRAM et cas d’usage
Le terrain 2026 se concentre sur quelques lignes de modèles :
| Modèle | Chemin | VRAM (Q4) | Le choisir pour |
|---|---|---|---|
| Qwen3.8-27B (constructions ablités) | Abliteration | 16 à 24 Go | Meilleur global : codage, agents, multimodal |
| Dolphin 3.0 Mistral 24B | Ajustement fin sans refus | 16 à 24 Go | Appel de fonctions, discussion générale, variante de raisonnement R1 |
| Hermes 4 (14B/36B/70B) | Politique pilotable | 12 Go+ | Comportement que vous définissez par invite système |
| Gemma 4 26B-A4B non censuré | Abliteration (MoE, ~4B actif) | 12 à 16 Go | Vitesse sur matériel modeste |
| Mistral Small 3.2 ablité | Abliteration | 12 à 16 Go | Fiction et prose |
| Huihui GLM-5.1 ablité | Abliteration | 24 Go+ | Plafond le plus élevé si la carte le permet |
Le Qwen3.8-27B ablité est le choix par défaut 2026. Il partage la licence Apache 2.0, prend en charge les composants MTP et vision, et tient sur les cartes courantes à quantification standard. Voir la page famille Qwen 4 pour les benchmarks de base. Hermes 4 est approprié lorsque vous requirez un modèle qui peut refuser selon une politique écrite. La construction MoE Gemma 4 échange un peu de capacité contre des avantages de débit sur le matériel en dessous de 16 Go.
Les exigences de VRAM comprennent les poids, le cache KV et environ 1 à 2 Go de surcharge d’exécution. À Q4_K_M, les poids coûtent environ 0,6 octet par paramètre. Les GGUF 4 bits de Qwen3.8-27B ablité nécessitent 16,5 à 16,8 Go avant le contexte. Une carte 16 Go ne tient qu’une quantification bas-bits avec un contexte minimal ; une carte 24 Go offre de la marge. Le coût du cache KV est d’environ 56 Ko par jeton pour un modèle GQA 28 couches, 4 têtes KV tel que Qwen2.5-7B, totalisant 1,8 Go à un contexte 32K et 7,5 Go à un contexte 128K. Prévoyez le contexte de fonctionnement réel.
Le Qwen3.8-27B de base est sous licence Apache 2.0, mais les constructions ablités d’OBLITERATUS, huihui-ai et philbert440 sont des modifications communautaires. huihui-ai signale sa construction comme une preuve de concept et déconseille l’usage en production ou face au public. Vérifiez l’éditeur et le fichier de licence pour chaque dépôt. Les constructions Qwen3.8-Flash-Next utilisent la Qwen Community License 1.0 avec ses propres termes.
Cadre de décision
Choisissez selon la contrainte qui mord d’abord :
- Pour des appels d’outils fiables : utilisez un ajustement fin sans refus ou un modèle pilotable (Dolphin 3, Hermes 4) à Q4 ou supérieur ; traitez les constructions ablités comme expérimentales jusqu’à ce que le schéma soit testé.
- Pour une ouverture maximale sur une seule boîte avec codage et vision : utilisez le Qwen3.8-27B ablité, servi à une quantification qui préserve la structure.
- Pour fixer vous-même les limites : utilisez Hermes 4 avec une politique d’invite système explicite.
- Pour des budgets de VRAM serrés exécutant discussion ou prose : utilisez Mistral Small 3.2 ablité ou la construction MoE Gemma 4.
Exécutez trois vérifications à la longueur de contexte de fonctionnement réelle :
-
Sonde de refus. Exécutez 20 à 50 invites de vos charges de travail réelles, y compris les cas limites qui ont déclenché des refus sur les modèles alignés. Comptez les refus et les non-réponses hésitantes séparément. Featherless exécute cette méthode avec 50 à 100 demandes d’abus réelles.
-
Schéma d’outils en longueur. Exécutez une boucle d’appel d’outils multi-tours sur votre schéma réel à la longueur de contexte de fonctionnement. Cela détecte la corruption de sortie structurée sous Q4, comme documenté dans le démarrage rapide Strata, et la dérive de schéma courante dans les constructions ablités.
-
Diff neutre. Exécutez des invites neutres avec la même graine et décodage avide sur le candidat et le modèle de base ; comparez les sorties côte à côte. Cela sert de proxy pour l’écart de KL lorsque la fiche modèle ne le publie pas.
Le temps d’exécution, le comportement du contexte et le format de quantification sont des décisions d’hébergement. Reportez-vous à la comparaison des temps d’exécution LLM locaux.
Liens utiles
Sources, dans l’ordre d’apparition :
- Arditi et al., « Refusal in language models is mediated by a single direction » — le résultat direction-refus sur lequel la technique est bâtie
- Labonne, « Uncensor any LLM with abliteration » — le tutoriel de référence auquel la plupart des constructions publiques remontent
- huihui-ai/Huihui-Qwen3.8-27B-abliterated — la construction de référence sur le choix par défaut, avec la note des couches ablités
- Dolphin sur Ollama — la ligne d’ajustement fin sans refus, y compris son propre avertissement de conformité
- Nous Research, « Introducing Hermes 4 » — la ligne neutralement alignée
- Rapport technique Hermes 4 — la preuve du pilotage par politique
- Heretic — l’outillage, son tableau comparatif et son chronométrage
- DreamFast/Qwen-2.5-7b-abliterlitics — le résultat de refus et la forensics des tenseurs
- Featherless, « Abliterated models for cybersecurity » — les écarts de capacité et la pratique des équipes de sécurité
- arXiv:2607.05842 — l’étude Vul4J de juillet 2026 de même lignée
- OrcaRouter, « DeepSeek V4.1 Flash abliterated, explained » — l’écart de refus des deux constructions
- Anthropic, « GLM-5.3 and the spread of advanced cyber capabilities » — l’étude d’abliteration en première intention
- ProjectDiscovery, « How abliterated models can get you pwned » — la démonstration de porte dérobée de chaîne d’approvisionnement
- Université de l’Illinois, Applied LLMs : « Abliteration » — le plafond : ce que la modification fait et ne fait pas
- Ajustement fin Extended-Refusal — la contre-tendance : refus justifiés plus longs
- Deep Ignorance (EleutherAI) — déplacer la garde-fou vers la pré-formation
- Locally Uncensored, « Abliterated models guide » — la comparaison des chemins et les données de VRAM
- ThreatDown, « Guardrail-free AI has gone mainstream » — le recensement 2026 de l’approvisionnement non censuré
- MDPI, « Uncensored AI in the Wild » — l’enquête 2025 de 8 000+ dépôts non censurés
Sur le site :
- Filtrage d’un LLM non censuré — la pièce complémentaire : vous fixez les règles, pas le fournisseur
- Démarrage rapide Strata Qwen3.8-Flash-Next — servage des constructions Qwen de cette sélection, et la défaillance de sortie structurée sous-Q4
- Choisir le meilleur LLM pour Ollama sur 16 Go de VRAM — le côté mesure de la colonne VRAM
- Ce qui vient après les LLM ? Mamba, Diffusion & World Models — l’aperçu de l’architecture Flash-Next sur laquelle tournent ces constructions Qwen
- Qwen 4 : ce qui est confirmé et ce que cela signifie pour l’IA locale — les benchmarks de base de la famille derrière le choix par défaut de la sélection
- Ollama vs vLLM vs LM Studio : temps d’exécution locaux — le choix du temps d’exécution après le modèle
- Modèles d’IA : Analyse des capacités, Architectures et Guides de familles — le pilier côté modèle sous lequel cette sélection se situe