검열 없는 LLM 선택하기: Abliterated와 Fine-tuned 비교

세nsed되지 않은 모델 선택: 비용, 적합성, 도구 호출

Page content

“미검열"은 거절하지 않는 오픈 모델에 대한 2026년 세 가지 방법, 즉 Abliteration, 거절 없는 파인튜닝, 스티어러블 정책을 다룹니다. 각 방법은 서로 다른 역량을 변화시키며, 이 가이드는 비용을 비교하고 VRAM 기준으로 후보를 추립니다.

절대 거절하지 않는 모델은 추가적인 개입 없이 잘못된 출력을 억제하는 단 하나의 반사 신경이 부재한 것입니다. 필터링과 판단을 스택의 다른 곳에 배치해야 합니다. 모델이 안전 계층을 공급하는 것을 중단하게 되었을 때, 해당 안전 계층의 위치 설정에 대한 지침은 미검열 LLM 필터링을 참고하십시오. 여기서의 결정은 더 좁은 범위로, 주어진 GPU와 워크로드에 대해 어떤 거절하지 않는 모델을 배포해야 하는가 하는 문제입니다.

거절하지 않는 모델의 세 가지 오픈 경로 중 선택하기

아래의 모든 수치는 2026년 11월 11일 기준으로 사용 지점에서 인용된 공개된 커뮤니티 보고나 모델 카드에서 가져온 것입니다. 어느 것도 자체 하드웨어에서 측정된 것이 아닙니다. 이 페이지는 AI 모델 클러스터에 속하며: 모델 선택과 경로 비용, 서빙이나 시스템 설계는 아닙니다.

모델이 거절하지 않도록 만들어지는 이유

주류 챗봇 모델은 훈련된 행위를 통해 특정 요청 카테고리를 거절하도록 정렬됩니다. 이러한 거절은 역량 한계를 반영하지 않습니다. 피싱 이메일을 설명하는 것을 거절하는 모델은 일반적으로 그럴 능력이 있습니다. MDPI 2025년 설문조사 “실시간 미검열 AI” (https://www.mdpi.com/1999-5903/17/10/477) 는 주로 Hugging Face에 있는 8,000개 이상의此类 저장소를 문서화했으며, 수요가 주변적이기보다 광범위하다고 결론지었습니다.

개발을 이끄는 세 가지 목적이 있습니다. 보안 분석과 실제 취약점을 언급하는 코드는 다른 위협 모델용으로 설계된 거절을 유발합니다. 가중에 임베디된 거절 규칙은 오버레이터가 중량 편집이나 재학습 없이 제약을 완화하는 것을 방지합니다. 연구자들은 거절을 편집함으로써 정렬을 연구하며, Heretic과 같은 도구는 이 기술을 자동화합니다.

실용적인 응용 분야는 아래에 나열된 보안 테스트, 코딩, 디버깅, 소설 집필, 의학 교육, 역할극, 정렬 연구 사례를 포함합니다 — 보안 및 Abliteration 가이드가 반복적으로 귀결되는 것과 동일한 목록입니다 (Locally Uncensored). 합법적인 작업에 다른 사용 사례에 캘리브레이션된 거절이 결합된 것은 해당 거절을 제거하는 일반적인 근거입니다.

사용 사례 필터가 차단하는 내용
보안 테스트 / 레드티밍 악용 예시 PoC 작성, 분석용 멀웨어, 직원 훈련용 피싱 유인
보안 민감 코딩 실제 CVE나 도구를 이름으로 부르는 코드, 정렬된 모델이 공격인 것처럼 거절
잘못된 거절 디버깅 에이전트 루프를 깨뜨릴 정도로 자주 합법적인 프롬프트를 거절하는 정렬된 모델
소설 및 성인 창작 글쓰기 동의한 성인 소설에서도 주류 어시스턴트가 거절하는 성숙한 주제
의학 및 성 교육 안전 필터에 걸리는 임상적 또는 교육적 내용
역할극 및 컴패니언 빌드 벤더 정책이 범위를 벗어나다고 간주하는 페르소나 작업
정렬/안전 연구 통제된 조건 하에서 이를 제거함으로써 거절이 무엇을 잡고 무엇을 놓치는지 측정

거절 제거의 세 가지 방법

Abliteration은 재학습 없이 가중치를 편집합니다. Arditi 외 연구자들은 챗봇 모델의 거절이 잔류 스트림의 단일 방향에 의해 운반된다는 것을 발견했습니다 (https://arxiv.org/abs/2406.11717). 가중치는 이 방향과 직교화되며, 이 방향은 유해하고 무해한 프롬프트에 대한 활성화 상태를 비교하여 식별됩니다. Maxime Labonne의 Abliteration 튜토리얼 은 대부분의 공개 빌드의 참고 자료 역할을 합니다. huihui-ai Qwen3.8-27B 빌드 (https://huggingface.co/huihui-ai/Huihui-Qwen3.8-27B-abliterated) 는 Apache 2.0 하에서 18층부터 51층을 절제하며, MTP 및 시각 구성 요원은 건드리지 않습니다.

거절 없는 파인튜닝은 더 긴 기간에 걸쳐 행위를 재학습합니다. Eric Hartford를 위해 Cognitive Computations가 개발한 Dolphin 3.0은 정렬 신호가 제거된 학습 데이터를 사용합니다. Ollama 카드 는 다음과 같이 명시합니다: “정렬과 편견을 제거하도록 데이터셋을 필터링했습니다.” Dolphin 3.0 R1 Mistral 24B는 80만 개의 DeepSeek-R1 추론 추적과 미검열 코퍼스 함께 훈련되었습니다. 카드는 모델이 비윤리적인 것을 포함한 모든 요청에 대해 높은 순응도를 지닌다고 설명하고, 배포 전에 독립적인 정렬 계층을 구현할 것을 조언합니다.

NousResearch의 Hermes 4와 같은 스티어러블 정책 모델은 중립적으로 정렬되어 있으며 시스템 프롬프트 정책에 의해 통치됩니다. 거절은 게이트되고, Nous 기술 보고서 는 시스템 프롬프트가 표면적 톤뿐만 아니라 추론을 재형성한다는 것을 보여줍니다. 정책은 컨텍스트 토큰을 소비하고 회화가 성장함에 따라 약화됩니다. Locally Uncensored의 2026년 가이드 는 Abliteration이 1~3시간, 파인튜닝이 며칠인 반면 스티어러블 정책은 긴 컨텍스트에서 깨진다고 보고합니다.

거절 제거의 측정된 비용

부수적 피해는 Abliteration 방법 전반에 걸쳐 크게 달라집니다. Heretic (https://github.com/p-e-w/heretic) 은 Gemma-3-12B-IT에 대해 세 가지 해 цен서버 버전이 각기 유해한 프롬프트 거절을 100건 중 3건으로 줄였으며, 이는 스톡 모델의 100건 중 97건에서 감소한 것이라고 보고합니다. 중립 입력에서 원래 모델에 대한 KL 발산은 수동 Abliteration(가중치의 99.9%, 매개변수 검색 없음)에서 1.04, Labonne의 부분적 검색에서 0.45, Heretic의 전체 검색에서 0.16이었습니다.

Qwen-2.5-7B의 HarmBench 공격 성공률은 정렬된 모델의 31.0%에서 거절하지 않는 버전의 98.2–100.0%로 상승했습니다 (DreamFast HF 카드). Qwen3.8-27B MMLU는 Featherless 를 통해 인용된 OBLITERATUS 빌드에서 84.46%에서 82.33%로 2.12백분점 하락했습니다. Qwen-2.5-7B의 GSM8K는 79.23%에서 80.74–80.82%로 1.5에서 1.6백분점 개선되었습니다 (DreamFast 카드). 2026년 7월 연구 (arXiv:2607.05842) 에 따르면, Vul4J 취약점 탐지는 58.42%에서 57.22%로 떨어졌으며, 컴파일된 패치는 9.04%에서 32.77%로 상승했습니다.

거절과 역량은 다른 숫자이며, 표들은 그렇게 대우합니다. 거절 결과 — 모델이 이제 수행할 것:

거절 결과 정렬됨 거절하지 않음 출처
HarmBench 공격 성공률, Qwen-2.5-7B 31.0% 98.2–100.0% DreamFast, HF 모델 카드

역량 차이 — 편집이 지식과 추론에 초래한 비용:

역량 차이 정렬됨 거절하지 않음 출처
MMLU, Qwen3.8-27B 84.46% 82.33% (−2.12pp) OBLITERATUS 카드, Featherless 경유
GSM8K, Qwen-2.5-7B 79.23% 80.74–80.82% (+1.5 to +1.6pp) DreamFast, HF 모델 카드
Vul4J 취약점 탐지 58.42% 57.22% 2026년 7월 동일 계보 연구 (arXiv:2607.05842), Featherless 경유
Vul4J 컴파일된 패치 9.04% 32.77% 동일 연구

Anthropic의 2026년 보고서 (https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities) 는 거절률이 JailbreakBench에서 90% 이상에서 3%로, HarmBench에서 2%로, StrongREJECT에서 12%로 감소한 Abliteration된 GLM-5.3를 생성했습니다. 편집 비용은 약 2,200 GPU-시간(약 $4,400)이었으며, Flash 버전은 약 600이었습니다. GPQA-Diamond 점수는 변경되지 않았고, CyberGym은 몇 백분점 하락했습니다.

OrcaRouter 는 다른 거절 결과를 가진 두 가지 DeepSeek V4.1 Flash 빌드를 문서화합니다: 하나는 100건 중 24건의 거절을 유지했으며, 다른 하나는 무해한 입력에서 첫 토큰 KL이 0.067인 채로 챗 프롬프트에서 4건의 거절을 유지했습니다. 어떤 발행자도 Abliteration된 빌드에 대한 역량 벤치마크를 게시하지 않았습니다. 공개 카드에 나열된 역량 수치는 베이스 체크포인트에서 측정되었습니다. 제거된 내용을 확인하고, 벤치마크가 이전과 이후의 값을 명시하는 경우에만 역량을 평가하기 위해 각 카드를 검토하십시오.

Abliteration은 지식 벤치마크를 보존하고 때로는 수학 추론을 개선합니다. 그것은 모델이 그 지식을 사용하는 방식을 변경합니다. 정렬된 동료와 마찬가지로 취약점을 탐지하는 모델은 작동하는 패치를 생성할 확률이 몇 배 더 높습니다. 작업이 산출물 생성이라면, 편집은 유용합니다. 작업이 자제력을 요구한다면, 오버레이터가 이를 제공해야 합니다.

Heretic (Philipp Emanuel Weidmann, 2025년 말 첫 출시) 은 거절과 KL 발산을 공동 최소화하는 Optuna 매개변수 검색을 통해 방향성 절제를 자동화합니다. Qwen-2.5-7B Abliteration은 927층의 339개 텐서 중 37개를 건드렸습니다. Apostate는 27층에 걸쳐 55개 텐서를 건드리고, huihui-ai는 28개 층 전체에 걸쳐 57개 텐서를 건드렸습니다 (DreamFast 포렌식). 명령어 heretic <model-id> 는 heretic-llm 패키지 (pip install -U heretic-llm) 를 필요로 합니다. 4B 모델 (Qwen3-4B-Instruct) 은 RTX 3090에서 2030분 내에 Abliteration되었습니다. 커뮤니티 보고서는 4090, 5090, 또는 A100 하드웨어에서 7B–9B 모델을 20~90분, 12B–27B 모델을 1시간 이상으로 추정합니다. 구성은 저 VRAM 카드를 위해 bnb_4bit 양자화를 지원합니다. Gemma 모델은 winsorization_quantile 이 0.95로 설정되어 있어야 합니다. MoE 및 24B 클래스 빌드는 24 GB 카드에 맞기 위해 4비트 양자화를 필요로 합니다. 게이트된 체크포인트는 Hugging Face 인증을 필요로 합니다. 완전한 실행은 약 반나절이 소요됩니다.

편집은 완전 정밀도 가중치를 사용하지만, 배포는 일반적으로 GGUF 양자화를 사용합니다. 양자화는 편집된 텐서를 포함한 모든 가중치를 반올림합니다. 게시된 GGUF 빌드는 두 가지 공급망 단계, 즉 편집과 양자화를 포함하며, 어느 단계도 반드시 사용자가 수행하는 것은 아닙니다. 반올림은 제거된 방향의 일부가 재 활성화될 수 있습니다; 동일한 베이스에서의 3/100 대 24/100 거절 분산은 이 효과의 크도를 나타냅니다.

도구 호출 및 공급망 위험

함수 호출 신뢰도는 거절률과 상관관계가 없습니다. Abliteration은 스키마 충실도가 아니라 거절과 KL 발산 최적화에 집중하므로, Abliteration된 빌드는 베이스 모델의 도구 호출 행위를 상속받습니다. 서빙 템플릿이 이를 더 깨뜨릴 수 있습니다. Dolphin 3 Ollama 템플릿은 도구 지원 없이 배포되었습니다 (Ollama #8329). 대화 중간에 도구 스키마를 떨어뜨리는 Abliteration된 체크포인트는 에이전트 사용에 적합하지 않습니다.

ProjectDiscovery 은 숨겨진 트리거 구를 수신할 때 도구 호출을 통해 셸 페이로드를 서빙하는 백도어가 심긴 Qwen2.5-7B를 시연했습니다. 백도어는 50달러 미만으로 제작되어 정정당당한 행동 테스트를 통과했습니다. 편집된 가중치는 백도어를 포함할 수 있으며, Abliteration된 빌드는 검사 없이 Hugging Face에서 가져오는 것이 정확히 그렇습니다. 검사되지 않은 모델로 에이전트를 실행하기 전에 출처를 확인하고 서빙 박스 접근을 제한하십시오.

Sub-Q4 양자화는 구조화된 출력을 깨뜨리며, 이는 Strata Qwen3.8-Flash-Next 빠른 시작 에 문서화되어 있습니다. Q4_K_M 이상을 위한 VRAM을 예산화하고, 배포 전에 스키마를 테스트하십시오. VRAM 측정값은 16 GB VRAM에서 Ollama용 최적 LLM 선택하기 를 참고하십시오.

방법별 실패 모드

Abliteration된 모델은 잔류 거절을 유지합니다. 긴 컨텍스트 프롬프트는 하드 거절이 재발하지 않더라도 부드러운 도덕 설교를 생성할 수 있습니다. 추론 모델은 방향 제거 후 첫 원리로부터 거절을 재도출합니다. 20-프롬프트 프로브를 통과하는 모델은 프로브되지 않은 프롬프트에서 긴 에이전트 컨텍스트에서 유보할 수 있습니다; 잘못된 거절을 디버깅할 때 이를 계획하십시오.

파인튜닝된 모델은 과잉 순응을 보입니다. 거절을 제거하는 데이터 필터링은 다른 출력에 대한 제약도 제거합니다. Dolphin 카드가 비윤리적인 것을 포함한 모든 요청에 대해 높은 순응도를 지닌다고 설명한 것은 이를 확인합니다. 배포 전 프로브는 이 실패를 표면화하지 않습니다; 프로덕션 요청이 그렇게 합니다.

스티어러블 모델은 긴 컨텍스트에서 정책 감소를 경험합니다. 정책은 컨텍스트에 존재하며, 회화가 성장함에 따라 그 영향이 감소합니다. 세션 시작時に 설정된 제한은 확장된 상호작용 후 구속력을 상실할 수 있습니다.

세 가지 실패 모드 모두 긴 컨텍스트 현상입니다. 에이전트 워크로드는 확장된 컨텍스트에서 실행되므로, 검증은 2-토큰 데모가 아닌 실제 작동 컨텍스트 길이에서 수행되어야 합니다.

거절 제거의 한계 및 미래 방향

Abliteration은 지식이 가중치에 존재하며 그것을 사용하려는 의지만이 억제된다고 가정합니다. 일리노이 대학 응용 LLMs 가이드 는 Abliteration이 베이스 모델에 부재한 지식을 추가하지 않는다고 명시합니다. 모델은 주제에 대해 원래 가중치가 도움이 되었던 만큼만 도움이 됩니다.

연구자들은 안전 결정을 사전 학습으로 이동시키고 있습니다. EleutherAI의 Deep Ignorance (arXiv:2508.06601, ICLR 2026) 은 사전 학습에서 유해한 문서를 필터링합니다. 안전 장치는 테스트된 데이터 기반 파인튜닝 공격에 대항하여 유지되었고, 일반 지식 벤치마크는 최소한의 변화를 보였습니다. 범위를 주의하십시오: 그들의 실험은 일반 검열이 아니라 bio/CDNR 프록시를 사용합니다. 훈련 데이터를 절대 받지 않는 모델은 무지로 인해 거절합니다; 가중치 편집은 부재한 지식을 복원할 수 없습니다.

Extended-Refusal 파인튜닝 (arXiv:2505.19056, 2025년 5월) 은 여러 토큰 위치에 걸쳐 더 길고 근거 있는 거절을 훈련합니다. 이는 Abliteration 후 거절 감소를 일반적인 70–80%에 비해 약 10%로 줄였습니다. 추론 모델은 방향 제거와 무관하게 첫 원리로부터 거절을 재도출합니다. 이러한 발전은 데이터 필터링을 필요로 하지 않지만 Abliteration 자체의 기준에서 신뢰성을 감소시킵니다.

미검열 공급은 계속 성장하고 있습니다. ThreatDown의 2026년 보고서 는 30일 윈도우에서 5개의 호스팅된 Abliteration된-DeepSeek 제공자, 6,644개의 플래그된 모델, 2,200만 다운로드 이상을 문서화했습니다. Heretic은 버전 2입니다. Deep Ignorance는 통제된 개념 증명입니다. 제공자들은 프로덕션 필터링 방법을 공개하지 않으며, 공격적인 필터링은 역량을 비용화합니다. 오픈 사용자는 여전히 필터링되지 않은 베이스 체크포인트를 실행하거나 안전-없음 어댑터를 병합할 수 있습니다.

모델 선택은 이제 데이터 출처 조사를 필요로 합니다. 베이스가 지식-필터링되었다면, Abliteration은 부재한 주제 지식을 복원할 수 없습니다. 역량 주의사항과 동일한 방식으로 모델 카드의 데이터 진술을 검토하십시오.

VRAM 및 사용 사례별 모델 숏리스트

2026년 분야는 소수의 모델 라인에 집중되어 있습니다:

모델 경로 VRAM (Q4) 선택 이유
Qwen3.8-27B (Abliteration된 빌드) Abliteration 16–24 GB 전체 최고: 코딩, 에이전트, 멀티모달
Dolphin 3.0 Mistral 24B 거절 없는 파인튜닝 16–24 GB 함수 호출, 일반 챗, R1 추론 변형
Hermes 4 (14B/36B/70B) 스티어러블 정책 12 GB+ 시스템 프롬프트별로 정의하는 행위
Gemma 4 26B-A4B 미검열 Abliteration (MoE, ~4B 활성) 12–16 GB 겸손한 하드웨어에서의 속도
Mistral Small 3.2 Abliteration Abliteration 12–16 GB 소설과 산문
Huihui GLM-5.1 Abliteration Abliteration 24 GB+ 카드가 허용한다면 최고 천장

Abliteration된 Qwen3.8-27B는 2026년 기본 선택입니다. Apache 2.0 라이선스를 공유하고, MTP 및 시각 구성 요원을 지원하며, 표준 양자화에서 일반적인 카드에 맞습니다. 베이스 벤치마크는 Qwen 4 가족 페이지 를 참고하십시오. Hermes 4는 서면 정책에 따라 거절할 수 있는 모델을 필요로 할 때 적합합니다. Gemma 4 MoE 빌드는 16 GB 미만 하드웨어에서 스루풋 이점을 위해 일부 역량을 희생합니다.

VRAM 요구사항은 가중치, KV 캐시, 약 1–2 GB의 런타임 오버헤드로 구성됩니다. Q4_K_M에서 가중치는 파라미터당 약 0.6 바이트가 소요됩니다. Qwen3.8-27B Abliteration 4비트 GGUF는 컨텍스트 전 16.5–16.8 GB가 필요합니다. 16 GB 카드는 최소 컨텍스트로 저 비트 양자화만 수용하며, 24 GB 카드는 여유 공간을 제공합니다. KV 캐시 비용은 Qwen2.5-7B와 같은 GQA 28층, 4-KV-헤드 모델에서 토큰당 약 56 KB이며, 32K 컨텍스트에서는 1.8 GB, 128K 컨텍스트에서는 7.5 GB에 이릅니다. 실제 작동 컨텍스트를 예산화하십시오.

Qwen3.8-27B 베이스는 Apache 2.0 하에 라이선스되지만, OBLITERATUS, huihui-ai, philbert440의 Abliteration된 빌드는 커뮤니티 편집입니다. huihui-ai는 빌드를 개념 증명으로 플래그하고 프로덕션 또는 공개 대면 사용을 조언하지 않습니다. 각 저장소의 발행자와 라이선스 파일을 확인하십시오. Qwen3.8-Flash-Next 빌드는 자체 약관을 가진 Qwen Community License 1.0을 사용합니다.

의사결정 프레임워크

먼저 물린 제약 조건에 따라 선택하십시오:

  • 신뢰할 수 있는 도구 호출을 위해: Q4 이상에서 거절 없는 파인튜닝 또는 스티어러블 모델 (Dolphin 3, Hermes 4) 을 사용하십시오; 스키마가 테스트될 때까지 Abliteration된 빌드는 실험적이라고 간주하십시오.
  • 코딩과 비전을 가진 단일 박스에서 최대 개방성을 위해: 구조를 보존하는 양자화로 서빙되는 Abliteration된 Qwen3.8-27B를 사용하십시오.
  • 자신이 제한을 설정하기 위해: 명시적인 시스템 프롬프트 정책과 함께 Hermes 4를 사용하십시오.
  • 챗이나 산문을 실행하는 긴밀한 VRAM 예산을 위해: Mistral Small 3.2 Abliteration 또는 Gemma 4 MoE 빌드를 사용하십시오.

실제 작동 컨텍스트 길이에서 세 가지 검증 확인을 실행하십시오:

  1. 거절 프로브. 정렬된 모델에서 거절을 유발한 가장자리 사례를 포함하여 실제 워크로드에서 20–50개 프롬프트를 실행하십시오. 거절과 유보된 비답변을 별도로 계수하십시오. Featherless는 50–100개의 실제 남용 요청으로 이 방법을 실행합니다.

  2. 길이에서의 도구 스키마. 작동 컨텍스트 길이에서 실제 스키마로 다중 턴 도구 호출 루프를 실행하십시오. 이는 Strata 빠른 시작에 문서화된 Q4 이하의 구조화된 출력 손상을 감지하고, Abliteration된 빌드에서 일반적인 스키마 편차를 감지합니다.

  3. 중립 디프. 후보 모델과 베이스 모델 모두에서 동일한 시드와 탐욕 디코딩으로 중립 프롬프트를 실행하고; 출력을 나란히 비교하십시오. 모델 카드가 이를 게시하지 않을 때 이는 KL 발산의 프록시로 작용합니다.

런타임, 컨텍스트 행동, 양자화 포맷은 호스팅 결정입니다. 로컬 LLM 런타임 비교 를 참고하십시오.


유용한 링크

출처, 등장 순서대로:

사이트 내:

구독하기

시스템, 인프라, AI 엔지니어링에 관한 새 글을 받아보세요.