LLM Wiki - RAG이 대체할 수 없는 체계화된 지식
AI 시스템을 위한 컴파일된 지식
전제는 간단합니다. 컴파일된 지식은 검색된 단편보다 재사용성이 높습니다. RAG는 직관적인 질문—LLM에게 외부 지식을 어떻게 접근하게 할 것인가?—에 대한 기본 답변이 되었습니다.
AI 시스템을 위한 컴파일된 지식
전제는 간단합니다. 컴파일된 지식은 검색된 단편보다 재사용성이 높습니다. RAG는 직관적인 질문—LLM에게 외부 지식을 어떻게 접근하게 할 것인가?—에 대한 기본 답변이 되었습니다.
현대 지식 체계의 지도
PKM, RAG, 위키, 그리고 AI 메모리 시스템은 종종 동일한 문제를 해결하는 것처럼 논의됩니다. 하지만 그렇지 않습니다. 이들은 모두 지식과 관련되어 있지만, 서로 다른 레이어에서 작동합니다:
느낌에 의존한 해석을 중단하고, 계약서를 검증하십시오.
대부분의 대규모 언어 모델(LLM) ‘구조화된 출력(structured output)’ 튜토리얼은 진지하지 않습니다. 이들은 사용자에게 정중하게 JSON을 요청한 후 모델이 잘 작동하기를 바라고 만듭니다. 그것은 검증(validation)이 아닙니다. 그것은 중괄호를 사용한 낙관주의에 불과합니다.
에이전틱 LLM 튜닝 참고 자료
이 페이지는 에이전트형 LLM 추론 튜닝에 대한 실용적인 참고 자료입니다(temperature, top_p, top_k, penalties 및 다단계 및 도구 중심 워크플로우에서의 상호 작용 방식).
전화기에서 헤르메스와 대화하세요
이미 스마트폰으로 텍스트를 통해 헤르메스 에이전트(Hermes Agent)와 대화를 나누고 계실텐데요. 이제 직접 말로 소통하고 음성으로 답변을 받아보시는 게 좋습니다. 특히 헤르메스를 영구적인 자체 호스팅 어시스턴트로 사용하고 계신다면 이는 가장 올바른 선택입니다. 작은 화면에서 긴 프롬프트를 입력하는 것은 느리고 실수가 발생하기 쉽기 때문입니다.
자체 호스팅 LLM에서 Hermes 카んばん 부하를 제어하세요.
Hermes Agent는 칸반 스타일의 보드와 Hermes Gateway를 함께 제공하며, 너무 많은 작업이 한 번에 배포되면 자체 호스팅 LLM을 포화 상태로 만들 수 있습니다.
빠르게 로드되고 안정적으로 동작하는 Author Hermes 기능
Hermes Agent는 **스킬(skill)**을 반복 가능한 워크플로우를 가르치는 기본 방식으로 취급합니다. 공식 문서에서는 이를 오픈 agentskills.io 형식에 맞춘 온디맨드(on-demand) 지식 문서로 설명하며, **점진적 공개(progressive disclosure)**를 통해 로드되므로 모델은 먼저 작은 인덱스를 보다가 작업이 실제로 필요할 때만 전체 지침을 가져오게 됩니다.
셀프 호스팅 Hermes 에이전트를 위한 셸 및 TUI 명령어
Nous Research의 Hermes Agent는 로컬이나 VPS에서 실행할 수 있는 모델에 구애받지 않고 도구를 사용하는 에이전트입니다.
NemoClaw을 사용하여 OpenClaw를 안전하게 실행하세요
대부분의 AI 에이전트 스택은 보안 문제를 데모 이후의 수정 사항으로 취급합니다. NemoClaw은 정반대의 가정에서 출발하며, 격리, 정책 및 라우팅을 초기부터 기본값으로 설정합니다.
에이전트의 지속적인 메모리를 위한 8가지 플러그형 백엔드.
컨텍스트 창을 벗어나는 무언가가 유지되지 않는 한, 현대의 어시스턴트들은 탭을 닫을 때 여전히 모든 것을 잊어버립니다. Agent memory providers는 세션 전반에 걸쳐 사실과 요약본을 보유하는 서비스 또는 라이브러리입니다. 메모리가 확장되는 동안 프레임워크를 가볍게 유지하기 위해 종종 plugins 형태로 연결됩니다.
단일 채팅 스레드를 넘어 지속되는 지식
이 섹션은 AI 시스템의 지속적 지식과 메모리에 대한 가이드를 모았습니다. 즉, 어시스턴트가 모든 토큰을 하나의 프롬프트에 무작정 넣지 않고도 세션 간에 사실, 선호도 및 정제된 맥락을 어떻게 유지하는지에 관한 내용입니다. 여기서 ‘메모리’는 GPU RAM이나 모델 가중치가 아닌, 의도적인 보존(사용자 사실, 요약, 플러그인 기반 저장소)을 의미합니다.
메모리는 도구와 파트너를 구분 짓는 차이입니다.
이미 잘 알고 계실 겁니다. AI 에이전트와 채팅을 시작하고, 프로젝트를 설명하고, 선호도를 공유한 뒤, 작업을 마치고 탭을 닫습니다. 그리고 다음 주에 다시 돌아오면 마치 낯선 사람과 대화하는 기분이 듭니다. 모든 문맥은 사라졌고, 모든 선호도는 잊혔으며, 프로젝트를 처음부터 다시 설명해야 합니다.
오픈클로우가 빠르게 부상했다. 그리고 더 빠르게 사라졌다.
OpenClaw은 제품으로서 실패한 것이 아닙니다. 단지 연료(리소스)가 고갈되었을 뿐입니다.
재시작 없이 LLM 을 제공하고 교체합니다.
오랫동안 llama.cpp 는 뚜렷한 한계가 있었습니다:
프로세스당 단 하나의 모델만 servir 할 수 있었고, 모델을 전환하려면 재시작이 필요했습니다.
실무에서도 견딜 수 있는 Claude Skills 구축하기
대부분의 팀은 Claude Skills 를 두 가지 방식 중 하나로 오용합니다. SKILL.md 를 쓰레기통으로 변하게 하거나, 거대한 복사 - 붙여넣기 프롬프트에서 벗어나지 못합니다.
심각한 워크로드를 위한 프로파일 우선 Hermes 설정
공식 문서상 ‘Hermes 에이전트(Hermes Agent)‘로 기록된 허메스 AI 어시스턴트는 단순한 채팅 래퍼(chat wrapper)로 포지셔닝되지 않습니다.