Cómo elegir un LLM sin censura: abliterado frente a sintonizado fino

Elige un modelo sin censuras: costo, ajuste y llamadas a herramientas.

Índice

“Sin censura” cubre tres métodos de 2026 para modelos abiertos que no rechazan: abliteration, afinamientos sin rechazo y política orientable. Cada uno modifica capacidades diferentes; esta guía compara costos y presenta una lista breve según VRAM.

Un modelo que nunca rechaza carece del único reflejo que suprime las salidas incorrectas sin intervención adicional. Debes ubicar el filtrado y el juicio en otro punto del stack. Consulta Filtrar un LLM sin censura para orientación sobre cómo posicionar la capa de seguridad cuando el modelo deja de proporcionar una. La decisión aquí es más estrecha: qué modelo no reductor desplegar para una GPU y carga de trabajo dadas.

Elegir entre tres rutas abiertas para un modelo no reductor

Cada cifra de abajo proviene de un informe de la comunidad publicado o de una tarjeta de modelo a fecha de 11/11/2026, citada en el punto de uso. Ninguna se midió en nuestro propio hardware. Esta página se sitúa bajo el clúster de Modelos de IA: elección de modelo y costo de la ruta, no servicio o diseño de sistema.

Por qué se crean modelos no reductores

Los modelos de chat de vanguardia están alineados para rechazar ciertas categorías de solicitudes a través de comportamiento entrenado. Este rechazo no refleja un límite de capacidad; un modelo que se niega a explicar un correo de phishing suele poseer la capacidad para hacerlo. La encuesta de MDPI de 2025, “Uncensored AI in the Wild” (https://www.mdpi.com/1999-5903/17/10/477), documentó más de 8,000 de tales repositorios, principalmente en Hugging Face, y concluyó que la demanda es amplia en lugar de marginal.

Tres propósitos impulsan el desarrollo. El análisis de seguridad y el código que menciona vulnerabilidades reales disparan rechazos diseñados para otros modelos de amenazas. Las reglas de rechazo incrustadas en los pesos impiden a los operadores relajar restricciones sin editar pesos o reentrenar. Los investigadores estudian el alineamiento editando los rechazos, y herramientas como Heretic automatizan esta técnica.

Las aplicaciones prácticas incluyen las pruebas de seguridad, la codificación, la depuración, la escritura de ficción, la educación médica, el roleplay y los casos de investigación de alineamiento enumerados a continuación: la misma lista a la que las guías de seguridad y abliteration siguen regresando (Locally Uncensored). Una tarea legítima emparejada con un rechazo calibrado para un caso de uso diferente es la justificación común para eliminar ese rechazo.

Caso de uso Lo que el filtro bloquea
Pruebas de seguridad / red-teaming Redacción de PoCs de exploits, malware para análisis, cebo de phishing para capacitación del personal
Codificación sensible a seguridad Código que nombra una CVE real o una herramienta, que los modelos alineados rechazan como si fuera un ataque
Depuración de falsos rechazos El modelo alineado que rechaza un prompt legítimo con suficiente frecuencia como para romper un bucle de agente
Ficción y escritura creativa para adultos Temas maduros que los asistentes de vanguardia rechazan incluso para ficción de adultos consentidos
Educación médica y sexual Contenido clínico o educativo que activa los filtros de seguridad
Roleplay y construcción de compañeros Trabajo de personificación que la política del proveedor trata como fuera de alcance
Investigación de alineamiento/seguridad Medir qué captan y qué no captan los rechazos, eliminándolos bajo condiciones controladas

Tres métodos de eliminación de rechazo

El abliteration edita pesos sin reentrenar. Arditi et al. encontraron que el rechazo en los modelos de chat es llevado por una única dirección en el flujo residual (https://arxiv.org/abs/2406.11717). Los pesos se ortogonalizan contra esta dirección, identificada comparando las activaciones en prompts dañinos e inocuos. La guía de abliteration de Maxime Labonne sirve como referencia para la mayoría de las compilaciones públicas. La compilación Qwen3.8-27B de huihui-ai (https://huggingface.co/huihui-ai/Huihui-Qwen3.8-27B-abliterated) abla las capas 18 a 51 bajo Apache 2.0, dejando los componentes MTP y visuales intactos.

El afinamiento sin rechazo reentrena el comportamiento durante duraciones más largas. Dolphin 3.0, desarrollado por Cognitive Computations para Eric Hartford, utiliza datos de entrenamiento de los cuales se eliminan las señales de alineamiento. La tarjeta de Ollama establece: “Hemos filtrado el conjunto de datos para eliminar el alineamiento y los sesgos”. Dolphin 3.0 R1 Mistral 24B se entrenó con 800k de trazas de razonamiento de DeepSeek-R1 junto con el corpus sin censura. La tarjeta describe el modelo como altamente complaciente con todas las solicitudes, incluidas las poco éticas, y aconseja implementar una capa de alineamiento independiente antes del despliegue.

Los modelos de política orientable, como Hermes 4 de NousResearch, están alineados neutralmente y gobernados por la política del prompt de sistema. El rechazo está controlado, y el informe técnico de Nous muestra que el prompt de sistema重塑a el razonamiento, no solo el tono superficial. La política consume tokens de contexto y se debilita a medida que las conversaciones crecen. La guía de 2026 de Locally Uncensored informa que la política orientable falla en contexto largo, en comparación con 1–3 horas para el abliteration y días para el afinamiento.

Costos medidos de la eliminación de rechazo

El daño colateral varía ampliamente entre los métodos de abliteration. Heretic (https://github.com/p-e-w/heretic) informa sobre Gemma-3-12B-IT que tres versiones descensuradas redujeron cada una el rechazo de prompts dañinos a 3 de 100, bajando de 97 de 100 en el modelo estándar. La divergencia KL de los neutros de entrada en relación con el original fue de 1.04 para el abliteration manual (99.9% de pesos, sin búsqueda de parámetros), 0.45 para la búsqueda parcial de Labonne y 0.16 para la búsqueda completa de Heretic.

El éxito de ataque en HarmBench en Qwen-2.5-7B aumentó del 31.0% para el modelo alineado al 98.2–100.0% para la versión no reductora (Tarjeta HF de DreamFast). El MMLU de Qwen3.8-27B disminuyó 2.12 puntos porcentuales del 84.46% al 82.33% en la compilación OBLITERATUS citada vía Featherless. El GSM8K para Qwen-2.5-7B mejoró de 1.5 a 1.6 puntos porcentuales, del 79.23% al 80.74–80.82% (tarjeta de DreamFast). La detección de vulnerabilidades en Vul4J cayó del 58.42% al 57.22%, mientras que las parches que compilaban aumentaron del 9.04% al 32.77% en un estudio de julio de 2026 (arXiv:2607.05842).

El rechazo y la capacidad son números diferentes, y las tablas los tratan de esa manera. El resultado de rechazo: lo que el modelo hará ahora:

Resultado de rechazo Alineado No reductor Fuente
Éxito de ataque en HarmBench, Qwen-2.5-7B 31.0% 98.2–100.0% DreamFast, tarjeta de modelo HF

La delta de capacidad: lo que costó la edición en conocimiento y razonamiento:

Delta de capacidad Alineado No reductor Fuente
MMLU, Qwen3.8-27B 84.46% 82.33% (−2.12 pp) Tarjeta OBLITERATUS, vía Featherless
GSM8K, Qwen-2.5-7B 79.23% 80.74–80.82% (+1.5 a +1.6 pp) Tarjeta de modelo HF de DreamFast
Detección de vulnerabilidades en Vul4J 58.42% 57.22% Estudio de la misma línea de julio de 2026 (arXiv:2607.05842), vía Featherless
Parches compilables en Vul4J 9.04% 32.77% Mismo estudio

El informe de 2026 de Anthropic (https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities) produjo un GLM-5.3 abliterado con tasas de rechazo reducidas de más del 90% al 3% en JailbreakBench, 2% en HarmBench y 12% en StrongREJECT. La edición costó aproximadamente 2,200 GPU-horas (~$4,400); la variante Flash costó unas 600. Las puntuaciones de GPQA-Diamond no cambiaron, y CyberGym disminuyó unos pocos puntos porcentuales.

OrcaRouter documenta dos compilaciones de DeepSeek V4.1 Flash con diferentes resultados de rechazo: una retuvo 24 de 100 rechazos, mientras que la otra retuvo 4 en prompts de chat con una KL de primer token de 0.067 en entradas inocuas. Ningún editor ha publicado un benchmark de capacidad para una compilación abliterada. Las cifras de capacidad enumeradas en las tarjetas públicas se midieron en el punto de control base. Revisa cada tarjeta para ver qué se eliminó y evalúa la capacidad solo donde los benchmarks nombren valores antes y después.

El abliteration preserva los benchmarks de conocimiento y a veces mejora el razonamiento matemático. Cambia cómo el modelo usa ese conocimiento. Un modelo que detecta vulnerabilidades tan bien como su pariente alineado es varias veces más probable que produzca un parche funcional. Si la tarea es producción de artefactos, la edición es útil. Si la tarea requiere contención, el operador debe proporcionarla.

Heretic (Philipp Emanuel Weidmann, publicado por primera vez a finales de 2025) automatiza la ablación direccional con búsqueda de parámetros de Optuna que minimiza conjuntamente los rechazos y la divergencia KL. El abliteration de Qwen-2.5-7B tocó 37 de 339 tensores en las capas 9–27. Apostate tocó 55 tensores a lo largo de 27 capas, y huihui-ai tocó 57 tensores a lo largo de las 28 capas (forense de DreamFast). El comando heretic <model-id> requiere el paquete heretic-llm (pip install -U heretic-llm). Un modelo de 4B (Qwen3-4B-Instruct) se abliteró en 20–30 minutos en una RTX 3090. Los informes de la comunidad sitúan los modelos de 7B–9B en 20–90 minutos y los de 12B–27B en una hora o más en hardware 4090, 5090 o A100. La configuración soporta cuantización bnb_4bit para tarjetas con poca VRAM. Los modelos Gemma requieren que winsorization_quantile esté establecido en 0.95. Las compilaciones MoE y de clase 24B requieren cuantización de 4 bits para caber en una tarjeta de 24 GB. Los puntos de control con compuerta requieren autenticación de Hugging Face. Una ejecución completa toma aproximadamente medio día.

La edición usa pesos de precisión completa, pero los despliegues suelen usar cuantización GGUF. La cuantización redondea cada peso, incluidos los tensores editados. Las compilaciones GGUF publicadas involucran dos etapas de cadena de suministro: edición y cuantización, y ninguna etapa es necesariamente realizada por ti. El redondeo puede reactivar porciones de la dirección eliminada; la dispersión de rechazo de 3/100 contra 24/100 en la misma base indica la magnitud de este efecto.

Llamada a funciones y riesgo de cadena de suministro

La fiabilidad de la llamada a funciones no se correlaciona con la tasa de rechazo. El abliteration optimiza para el rechazo y la divergencia KL, no para la fidelidad del esquema, por lo que una compilación abliterada hereda el comportamiento de llamada a herramientas del modelo base. Las plantillas de servicio pueden romperlo aún más. La plantilla de Ollama de Dolphin 3 se envió sin soporte para herramientas (Ollama #8329). Un punto de control abliterado que deja caer un esquema de herramientas a mitad de una conversación no es adecuado para uso de agente.

ProjectDiscovery demostró un Qwen2.5-7B con puerta trasera que servía una carga de shell vía una llamada a herramienta cuando recibía una frase de activación oculta. La puerta trasera se construyó por menos de $50 y pasó las pruebas de comportamiento limpio. Los pesos editados pueden llevar puertas traseras, y las compilaciones abliteradas son precisamente las que se extraen de Hugging Face sin inspección. Verifica el origen y restringe el acceso al servidor antes de ejecutar agentes en modelos no inspeccionados.

La cuantización Sub-Q4 corrompe la salida estructurada, como se documenta en el Rápido inicio de Strata Qwen3.8-Flash-Next. Asigna VRAM para Q4_K_M o superior, y prueba el esquema antes del despliegue. Consulta Elegir el mejor LLM para Ollama en 16 GB de VRAM para las mediciones de VRAM.

Modos de falla por método

Los modelos abliterados retienen rechazo residual. Los prompts de contexto largo pueden producir moralismo suave incluso cuando los rechazos duros no se repiten. Los modelos de razonamiento rederivan los rechazos desde los primeros principios después de la eliminación de la dirección. Un modelo que pasa una sondeo de 20 prompts puede atajar en un contexto de agente largo en prompts no sondados; planifica para esto al depurar falsos rechazos.

Los modelos afinados exhiben sobre-cumplimiento. El filtrado de datos que elimina el rechazo también elimina la restricción sobre otras salidas. La descripción de la tarjeta de Dolphin como altamente complaciente con todas las solicitudes, incluidas las poco éticas, confirma esto. Las sondas de pre-despliegue no revelan esta falla; las solicitudes de producción sí.

Los modelos orientables experimentan decaimiento de política en contexto largo. La política vive en el contexto, y su influencia disminuye a medida que las conversaciones crecen. Los límites establecidos al inicio de una sesión pueden dejar de vincular después de la interacción extendida.

Los tres modos de falla son fenómenos de contexto largo. Las cargas de trabajo de agente se ejecutan en contexto extendido, por lo que la validación debe ocurrir en la longitud de contexto de operación real en lugar de en demostraciones de dos tokens.

Límites y dirección futura de la eliminación de rechazo

El abliteration asume que el conocimiento existe en los pesos y solo la disposición a usarlo está suprimida. La guía de LLMs aplicados de la Universidad de Illinois establece que el abliteration no añade conocimiento ausente en el modelo base. Un modelo es útil en un tema solo en la medida en que los pesos originales lo eran.

Los investigadores están moviendo las decisiones de seguridad al preentrenamiento. Deep Ignorance de EleutherAI (arXiv:2508.06601, ICLR 2026) filtra documentos peligrosos del preentrenamiento. La salvaguarda se sostuvo contra los ataques de afinamiento basados en datos probados, y los benchmarks de conocimiento general mostraron cambio mínimo. Ten en cuenta el alcance: sus experimentos usan un proxy de bio/CDNR, no censura general. Un modelo que nunca recibe datos de entrenamiento rechaza por ignorancia; ninguna edición de pesos recupera conocimiento ausente.

El afinamiento de rechazo extendido (arXiv:2505.19056, mayo de 2025) entrena rechazos justificados más largos a lo largo de múltiples posiciones de token. Esto redujo la caída de rechazo post-abliteration a aproximadamente el 10% en comparación con el típico 70–80%. Los modelos de razonamiento rederivan los rechazos desde los primeros principios sin importar la eliminación de la dirección. Estos desarrollos no requieren filtrado de datos pero reducen la fiabilidad del abliteration en sus propios términos.

El suministro sin censura sigue creciendo. El informe de 2026 de ThreatDown documentó cinco proveedores alojados de DeepSeek abliterado, 6,644 modelos marcados y más de 22 millones de descargas en una ventana de 30 días. Heretic está en la versión dos. Deep Ignorance es un concepto de demostración controlado. Los proveedores no divulgan los métodos de filtrado de producción, y el filtrado agresivo cuesta capacidad. Los usuarios abiertos aún pueden ejecutar puntos de control base no filtrados o mezclar adaptadores de no-seguridad.

La selección de modelos ahora requiere un examen del origen de los datos. Si la base fue filtrada de conocimiento, el abliteration no puede restaurar el conocimiento de tema ausente. Revisa la declaración de datos de la tarjeta del modelo de la misma manera en que revisas su advertencia de capacidad.

Lista breve de modelos por VRAM y caso de uso

El campo de 2026 se concentra en unas pocas líneas de modelos:

Modelo Ruta VRAM (Q4) Elige esto para
Qwen3.8-27B (compilaciones abliteradas) Abliteration 16–24 GB Mejor en general: codificación, agentes, multimodal
Dolphin 3.0 Mistral 24B Afinamiento sin rechazo 16–24 GB Llamada a funciones, chat general, variante de razonamiento R1
Hermes 4 (14B/36B/70B) Política orientable 12 GB+ Comportamiento que defines por prompt de sistema
Gemma 4 26B-A4B sin censura Abliteration (MoE, ~4B activo) 12–16 GB Velocidad en hardware modesto
Mistral Small 3.2 abliterado Abliteration 12–16 GB Ficción y prosa
Huihui GLM-5.1 abliterado Abliteration 24 GB+ Techo más alto si la tarjeta lo permite

El Qwen3.8-27B abliterado es la elección predeterminada de 2026. Comparte la licencia Apache 2.0, soporta componentes MTP y visión, y cabe en tarjetas comunes con cuantización estándar. Consulta la página de la familia Qwen 4 para los benchmarks base. Hermes 4 es apropiado cuando requieres un modelo que pueda rechazar según una política escrita. La compilación MoE de Gemma 4 intercambia algo de capacidad por ventajas de rendimiento en hardware por debajo de 16 GB.

Los requisitos de VRAM comprenden pesos, caché KV y aproximadamente 1–2 GB de sobrecarga de tiempo de ejecución. Con Q4_K_M, los pesos cuestan aproximadamente 0.6 bytes por parámetro. Los GGUF de 4 bits abliterados de Qwen3.8-27B requieren 16.5–16.8 GB antes del contexto. Una tarjeta de 16 GB solo admite una cuantización de bajo bit con contexto mínimo; una tarjeta de 24 GB proporciona margen. El costo de la caché KV es aproximadamente 56 KB por token para un modelo GQA de 28 capas y 4 cabezas KV, como Qwen2.5-7B, totalizando 1.8 GB a contexto de 32K y 7.5 GB a contexto de 128K. Asigna presupuesto para el contexto de operación real.

La base de Qwen3.8-27B está licenciada bajo Apache 2.0, pero las compilaciones abliteradas de OBLITERATUS, huihui-ai y philbert440 son ediciones comunitarias. huihui-ai marca su compilación como concepto de demostración y aconseja contra su uso en producción o frente al público. Verifica el editor y el archivo de licencia para cada repositorio. Las compilaciones de Qwen3.8-Flash-Next usan la Licencia Comunitaria de Qwen 1.0 con sus propios términos.

Marco de decisión

Elige según la restricción que muerde primero:

  • Para llamadas a herramientas fiables: usa un afinamiento sin rechazo o un modelo orientable (Dolphin 3, Hermes 4) en Q4 o superior; trata las compilaciones abliteradas como experimentales hasta que el esquema esté probado.
  • Para máxima apertura en una sola caja con codificación y visión: usa el Qwen3.8-27B abliterado, servido en una cuantización que preserve la estructura.
  • Para establecer los límites tú mismo: usa Hermes 4 con una política de prompt de sistema explícita.
  • Para presupuestos ajustados de VRAM ejecutando chat o prosa: usa Mistral Small 3.2 abliterado o la compilación MoE de Gemma 4.

Ejecuta tres comprobaciones de validación en la longitud de contexto de operación real:

  1. Sondeo de rechazo. Ejecuta 20–50 prompts de tus cargas de trabajo reales, incluidos casos límite que desencadenaron rechazos en modelos alineados. Cuenta los rechazos y las respuestas evasivas por separado. Featherless ejecuta este método con 50–100 solicitudes reales de abuso.

  2. Esquema de herramientas en longitud. Ejecuta un bucle de llamada a herramientas de múltiples giros con tu esquema real en la longitud de contexto de operación. Esto detecta la corrupción de salida estructurada por debajo de Q4, como se documenta en el rápido inicio de Strata, y la deriva de esquema común en las compilaciones abliteradas.

  3. Diferencia neutral. Ejecuta prompts neutrales con la misma semilla y decodificación aviesa tanto en el modelo candidato como en el modelo base; compara las salidas lado a lado. Esto sirve como un proxy para la divergencia KL cuando la tarjeta del modelo no la publica.

El tiempo de ejecución, el comportamiento del contexto y el formato de cuantización son decisiones de alojamiento. Consulta la comparación de tiempo de ejecución de LLM local.


Enlaces útiles

Fuentes, en orden de aparición:

En el sitio:

Suscribirse

Recibe nuevas publicaciones sobre sistemas, infraestructura e ingeniería de IA.