AI 어시스턴트 아키텍처: LLM, 메모리, 도구, 라우팅, 관측 가능성
실제 생산성 어시스턴트는 어떻게 구축되는가.
프로덕션 AI 어시스턴트는 단순히 “프롬프트가 포함된 LLM"이 아닙니다. 사용자 의도를 수용하고, 상태를 유지하며, 검색 또는 실행 시점을 결정하고, 장애를 디버깅할 수 있도록 충분한 런타임 세부 정보를 노출하는 시스템입니다.
실제 생산성 어시스턴트는 어떻게 구축되는가.
프로덕션 AI 어시스턴트는 단순히 “프롬프트가 포함된 LLM"이 아닙니다. 사용자 의도를 수용하고, 상태를 유지하며, 검색 또는 실행 시점을 결정하고, 장애를 디버깅할 수 있도록 충분한 런타임 세부 정보를 노출하는 시스템입니다.
스타, 토큰, 다운로드 수 — 과연 누가 실제 승자인가?
GitHub에서 오픈소스 AI 에이전트 프레임워크의 인기가 폭발적으로 증가하고 있습니다. 셀프호스팅 AI 시스템 생태계의 핵심에 있는 두 프로젝트인 OpenClaw와 Hermes Agent는 나머지 분야와의 격차를 크게 벌려 두었으며, 나머지 프로젝트들은 멀리 떨어진 3위를 놓고 경쟁하고 있습니다.
전화기에서 헤르메스와 대화하세요
이미 스마트폰으로 텍스트를 통해 헤르메스 에이전트(Hermes Agent)와 대화를 나누고 계실텐데요. 이제 직접 말로 소통하고 음성으로 답변을 받아보시는 게 좋습니다. 특히 헤르메스를 영구적인 자체 호스팅 어시스턴트로 사용하고 계신다면 이는 가장 올바른 선택입니다. 작은 화면에서 긴 프롬프트를 입력하는 것은 느리고 실수가 발생하기 쉽기 때문입니다.
자체 호스팅 LLM에서 Hermes Kanban 부하를 제어하세요.
Hermes Agent에는 Kanban 스타일 보드와, 한 번에 너무 많은 작업이 전달될 경우 자체 호스팅 LLM을 포화 상태로 만들 수 있는 Hermes Gateway가 함께 제공됩니다.
저자 헤르메스 - 빠르게 로드되고 신뢰성 있게 작동하는 스킬
Hermes Agent는 반복 가능한 워크플로우를 가르치는 기본 방법으로 스킬을 취급합니다. 공식 문서는 스킬을 agentskills.io의 오픈 형식과 일치하는 온디맨드 지식 문서로 설명하며, 모델이 먼저 작은 인덱스를 보고 작업이 실제로 필요할 때만 전체 지침을 가져오도록 점진적 공개를 통해 로드됩니다.
자체 호스팅 Hermes Agent를 위한 셸 및 TUI 명령
Nous Research의 Hermes Agent는 모델에 구애받지 않고, 도구를 사용하는 어시스턴트로, 로컬 또는 VPS에서 셸, 전체 화면 TUI, 또는 메시징 게이트웨이를 통해 실행할 수 있습니다.
NemoClaw을 사용하여 OpenClaw를 안전하게 실행하세요
대부분의 AI 에이전트 스택은 보안 문제를 데모 이후의 수정 사항으로 취급합니다. NemoClaw은 정반대의 가정에서 출발하며, 격리, 정책 및 라우팅을 초기부터 기본값으로 설정합니다.
단일 채팅 스레드를 넘어 지속되는 지식
이 섹션은 AI 시스템의 영구적 지식과 기억에 대한 가이드를 모은 것입니다 — 어시스턴트가 모든 토큰을 하나의 프롬프트에 주입하지 않고 세션 간에 사실, 선호도 및 정제된 컨텍스트를 어떻게 유지하는지에 대한 내용입니다. 여기서 기억이란 GPU RAM이나 모델 가중치가 아니라 의도적인 보유(사용자 사실, 요약, 플러그인 기반 스토어)를 의미합니다.
요약(recall)만큼 캡처 정책도 중요해졌다.
2026년 9월 업데이트: Mnemosyne와 Memori를 추가하고, Honcho 및 Hindsight 설정을 확장했으며, 기존 인프라 테이블과 함께 캡처 정책 비교표를 추가했습니다.
메모리는 도구가 아닌 파트너를 만드는 차이점입니다.
AI 에이전트와 채팅을 시작하고, 프로젝트를 설명하고, 선호 사항을 공유하고, 작업을 마친 후 탭을 닫는 장면을 익히 보셨을 것입니다. 일주일 후 다시 돌아오면 마치 처음 만난 사람과 대화하듯 모든 컨텍스트가 사라지고, 모든 선호 사항이 잊혀 있으며, 프로젝트가 처음부터 다시 설명되어야 하는 상황이 됩니다.
OpenClaw는 빠르게 부상했다가 더 빠르게 사라졌다.
OpenClaw는 제품으로서 실패한 것이 아닙니다. 연료를 잃어버린 것입니다.
심각한 워크로드를 위한 프로파일 우선 Hermes 설정
공식적으로 Hermes Agent로 문서화된 Hermes AI 어시스턴트는 단순한 채팅 래퍼(wrapper)로 포지셔닝되지 않습니다.
가져둘 가치 있는 스킬과 건너뛸 스킬
OpenClaw에는 두 가지 확장이 있으며, 이들은 쉽게 혼동될 수 있습니다.
플러그인은 런타임을 확장합니다. 스킬(기술)은 에이전트의 행동을 확장합니다.
플러그인이 우선입니다. 스킬 명칭은 간략하게 표기합니다.
이 기사는 OpenClaw 플러그인에 대해 다룹니다. OpenClaw 플러그인은 채널, 모델 제공자, 도구, 음성, 메모리, 미디어, 웹 검색 및 기타 런타임 표면을 추가하는 네이티브 게이트웨이 패키지입니다.
실제 OpenClaw 시스템이 어떻게 구성되어 있는지
데모에서는 OpenClaw가 단순해 보입니다. 하지만 프로덕션 환경에서는 하나의 시스템으로 진화합니다.
클로드 구독은 더 이상 에이전트를 구동하지 않습니다
에이전트 실험의 물결을 이끈 조용한 루트가 이제 막혔습니다.