RAG와 LLM Wiki + Obsidian 중 무엇을 선택할까: Hermes Agent 실전 가이드(지식 베이스)

인공지능 에이전트의 발전은 우리가 정보를 관리하고 활용하는 방식에 혁신을 가져오고 있습니다.
특히 Hermes Agent와 같은 강력한 도구는 Retrieval Augmented Generation(RAG)과 LLM Wiki + Obsidian이라는 두 가지 주요 접근 방식을 통해 지식 관리의 효율성을 극대화할 수 있습니다.
이 글에서는 두 방식의 개념을 짚고, 각각의 장단점을 비교하며, 어떤 상황에서 어떤 방식을 선택해야 할지를 구체적인 사용 사례와 함께 안내합니다.

 

들어가며: 에이전트 시대의 지식 관리 두 갈래

 

Hermes Agent와 같은 자율형 에이전트가 실무에 자리 잡으면서, "지식"을 어떻게 모으고 가공할 것인가가 다시 한번 중요한 화두로 떠올랐습니다.

같은 질문에 답하더라도, 매번 원본 문서에서 정보를 다시 찾아오는 방식과, 에이전트가 지속적으로 지식을 구축·관리하는 방식은 결과물과 운영 비용 모두에서 큰 차이를 만들어냅니다.

 

이 글은 두 축을 가능한 한 평이하게 정리합니다.
한 축은 전통적인 RAG(Retrieval Augmented Generation)로, 질의 시점에 외부 문서에서 관련 정보를 실시간으로 검색해 답변을 보강하는 방식입니다.

다른 한 축은 Karpathy의 LLM Wiki 패턴을 기반으로 Hermes Agent가 직접 가공·정리하는 LLM Wiki + Obsidian 조합입니다.

 

본문은 7개 섹션(서론 → LLM Wiki → RAG → 비교표 → 사례 3가지 → 결론 → 참고 자료)으로 구성되어 있으며, 본 글은 이 구조를 그대로 유지하면서 각 절의 분량을 보강하고, 쇼츠에서 유행하는 stickman 애니메이션 스타일의 이미지 10장을 본문 흐름에 맞춰 배치했습니다.

 

 

Hermes Agent와 LLM Wiki + Obsidian 연동

LLM Wiki의 개념

 

 

LLM Wiki는 Andrej Karpathy가 제시한 LLM Wiki 패턴을 토대로 한 지식 관리 시스템입니다.

전통적인 RAG가 질의가 들어올 때마다 원본 문서에서 필요한 사실을 재발견하는 데 반해, LLM Wiki는 에이전트가 지속적으로 지식을 구축·갱신하며 일관성을 유지하는 상호 연결된 마크다운 파일 형태의 지식 베이스를 지향합니다.

여기서 가장 중요한 차이는 역할 분담입니다.

사용자는 큐레이션과 분석 방향을 제시하고, 에이전트는 요약, 교차 참조, 파일 정리, 일관성 유지 같은 반복적인 가공 작업을 수행합니다.

결과적으로 노트는 "에이전트가 읽기 좋은 형태"로 재가공되며, 단순한 자료 저장이 아닌 구조화된 지식 그래프로 진화합니다.

Hermes Agent와 LLM Wiki

 

 

 

Hermes Agent는 LLM Wiki 패턴을 구현하기에 최적화된 오픈 소스 AI 에이전트입니다.
내장 스킬인 llm-wiki는 다음 세 가지 핵심 작업을 한 묶음으로 제공합니다.

 

지식 수집(Ingest): URL·파일·텍스트 같은 다양한 소스를 입력받으면 마크다운으로 변환하여 wiki에 통합합니다.
이 과정에서 에이전트는 기존 엔티티와 개념 페이지를 갱신하거나, 새 페이지를 생성하며, 관련 페이지 간 교차 참조를 자동으로 추가합니다.

 

질의(Query): 특정 도메인에 대한 질문을 받으면 관련 페이지를 검색하고 정보를 종합해 답변을 생성합니다.
필요한 경우 답변 자체를 새로운 wiki 페이지로 저장해 위키를 한 번 더 성장시킵니다.

 

정리(Lint): 주기적으로 wiki의 일관성을 점검합니다. 모순되는 내용, 고아 페이지(다른 페이지에서 참조되지 않는 페이지), 오래된 주장을 식별하여 사용자에게 보고합니다.

Obsidian과의 연동

 

 

 

LLM Wiki는 본질적으로 마크다운 파일의 디렉터리 구조입니다.
따라서 Obsidian, VS Code 등 어떤 에디터로도 열람과 편집이 가능하며, 그중에서도 Obsidian은 마크다운 기반의 대표적인 개인 지식 관리 도구로 손꼽힙니다.

 

Hermes Agent가 만들고 관리하는 마크더 파일을 Obsidian 볼트로 지정하면, 사용자는 위키링크, 그래프 뷰, 검색 기능 등 Obsidian의 강력한 연결성 도구를 활용해 에이전트가 구축한 지식 베이스를 시각적으로 탐색하고 직접 상호작용할 수 있습니다.

 

실무에서는 두 가지 운영 방식이 공존합니다.
일부 사용자는 Obsidian의 데스크톱 종속성이나 유지보수 부담 때문에 Obsidian을 사용하지 않고, 대신 노트를 직접 보여주는 웹 기반 프론트엔드를 구축하기도 합니다.

반면 Obsidian을 활용하면 에이전트가 오프라인이거나 호출이 어려운 상황에서도 독립적인 지식 베이스로 즉시 활용할 수 있다는 장점이 있습니다.

 

 

RAG(Retrieval Augmented Generation)란 무엇인가

 

RAG는 대규모 언어 모델(LLM)이 답변을 만들기 전, 외부 지식 베이스에서 관련 정보를 실시간으로 검색해 활용하는 기술입니다. LLM의 환각(hallucination) 현상을 줄이고, 최신 정보를 자연스럽게 반영하며, 특정 도메인에 특화된 답변을 생성하는 데 효과적입니다.

 

Hermes Agent 환경에서 RAG는 사용자가 지정한 문서 디렉터리에서 필요한 정보를 검색해 답변에 보강하는 방식으로 구현됩니다. PDF, 마크다운, 텍스트 파일 같은 원본 그대로의 자료가 검색 대상이 되며, 별도의 가공 단계 없이 질의 시점의 컨텍스트를 만드는 것이 핵심입니다.

 

정리하면 RAG는 질의 → 검색 → 답변의 단순한 흐름으로 동작합니다.
매번 같은 문서가 재평가되므로 데이터가 빠르게 변하더라도 즉시 반영된다는 강점이 있지만, 그만큼 같은 사실에 대해 매번 비용을 지불하는 구조이기도 합니다.

 

 

RAG vs LLM Wiki + Obsidian 직접 비교

 

두 방식은 같은 "지식"이라는 문제를 두고 다른 가정에서 출발합니다.
다음 표는 핵심 축을 정리한 내용으로, 본 PDF의 비교표를 그대로 옮기고 보강한 것입니다.

비교 항목	RAG(Retrieval Augmented Generation)	LLM Wiki + Obsidian
지식 관리 방식	질의 시점마다 외부 문서에서 실시간으로 정보를 검색·활용	에이전트가 능동적으로 구조화된 마크다운 지식 베이스를 구축하고 유지
지식 변화 대응	매 질의마다 최신 정보를 새로 검색	에이전트가 변경 사항을 추적하고 관련 페이지를 업데이트해 일관성 유지
데이터 소스	원본 문서(PDF, 텍스트 파일 등)	에이전트가 가공·요약한 마크다운 파일
유지보수 부담	원본 문서 관리만 하면 비교적 적음	에이전트가 지속해서 지식 베이스의 일관성과 구조를 관리해야 함
장점	최신 정보 반영 용이 · 환각 감소 · 특정 도메인 특화 답변 가능	구조화된 지식 그래프 구축 · 지식 축적·심화 · 에이전트의 자율 관리 · Obsidian으로 시각적 탐색 가능
단점	질의마다 검색 비용 발생 · 지식의 심층 연결성 부족	초기 구축과 스키마 정의 필요 · 에이전트의 지속적 관리 필요

표에서 드러나듯 한 번의 비용을 어디에 쓰느냐가 두 방식의 결정적 차이입니다. RAG는 질의할 때 비용을, LLM Wiki는 정리할 때 비용을 치룹니다.
어느 쪽이 더 낫다는 절대적 정답은 없으며, 도메인의 데이터 특성, 변경 빈도, 활용 빈도에 따라 답이 달라집니다.

 

 

구체적인 사용 사례 세 가지

사례 1.
주기적으로 변경되는 법령에 대응하기

 

 

문제 상황: 법령은 주기적으로 개정되며, 새 조항과 기존 조항의 차이를 빠르게 파악해 업무에 반영해야 합니다.
하지만 단순한 인덱싱과 키워드 검색만으로는 "무엇이 어떻게 바뀌었는지"를 일목요연하게 보여주지 못하는 경우가 많습니다.

 

LLM Wiki + Obsidian 활용: Hermes Agent의 llm-wiki 스킬로 법령 지식 베이스를 구축하면, 새로운 법령 개정안이 발표될 때마다 raw/articles 디렉터리에 자동 ingest됩니다.

에이전트는 기존 법령 문서와 비교하여 변경된 조항, 추가된 내용, 삭제된 내용을 분석하고, 그 결과를 comparisons 디렉터리에 비교 문서로 기록합니다.

 

이 과정에서 관련 entities 또는 concepts 페이지가 함께 업데이트되며, Obsidian에서는 변경된 법령을 한눈에 확인하고 그래프 뷰로 관련 법령 간의 연결성을 따라갈 수 있습니다.

특정 산업 규제 법령이 바뀌면, [[법령명-개정-비교]] 같은 위키링크로 묶인 문서가 자동으로 만들어지며, 여기에는 변경 요약과 "기존 vs 신규" 차이가 표 형태로 정리됩니다.

사례 2.
기술 문서 작성과 유지보수

 

 

문제 상황: 새로운 기술이 끊임없이 등장하고 기존 기술도 빠르게 갱신됩니다.
기술 문서를 항상 최신 상태로 유지하면서 일관성을 확보하는 일은 그 자체로 큰 작업이며, 담당자가 바뀌면 품질이 흔들리기도 합니다.

 

LLM Wiki + Obsidian 활용: Hermes Agent로 특정 기술 도메인의 LLM Wiki를 구축합니다.
새로운 기술 블로그, 논문, 공식 문서가 정리될 때마다 raw/articles 또는 raw/papers에 저장되고, 그 정보들은 concepts 디렉터리에 새로운 개념 페이지로, 혹은 기존 문서 페이지의 업데이트로 반영됩니다.

 

예를 들어 특정 프로그래밍 언어의 새 버전이 출시되면, 변경된 문법, 추가된 기능, deprecated된 기능을 요약해 [[언어명-버전]] 페이지가 갱신됩니다.

동시에 log.md에는 변경 이력이 누적되고, 관련 기술과의 comparisons 페이지도 함께 업데이트되어 기술 간 관계가 명확하게 정리됩니다. Obsidian을 사용하는 개발자는 이 위키를 탐색하며 필요한 정보를 빠르게 찾고, 다른 기술 개념과의 연결을 그래프 뷰로 파악할 수 있습니다.

사례 3.
고객 지원 FAQ와 지식 베이스

 

 

 

문제 상황: 고객 문의에 대해 빠르고 정확한 답변을 제공하기 위해서는 최신 FAQ와 지식 베이스가 항상 유지되어야 합니다.

하지만 실제 운영에서는 매뉴얼이 길고, 자주 바뀌지 않으면서 방대한 양의 자료가 한꺼번에 검색 대상이 되는 경우가 많습니다.

 

RAG 활용: 고객 문의가 접수되면 Hermes Agent는 RAG로 기존 FAQ 문서, 제품 매뉴얼, 이전 상담 기록에서 가장 관련성 높은 정보를 즉시 검색해 답변을 생성합니다.

수백 페이지 분량의 매뉴얼에서도 "이 문제가 뭐였지?"라는 단편적 질문에 대해 가장 적절한 해결책을 빠르게 찾는 데 강합니다.

 

LLM Wiki + Obsidian 활용: 자주 묻는 질문과 답변을 LLM Wiki 형태로 별도로 구축할 수도 있습니다.

에이전트는 문의 패턴을 분석해 새로운 FAQ 항목을 제안하고, 기존 답변을 갱신하며, 관련 제품·서비스 페이지와 위키링크로 연결합니다.

특정 기능에 대한 문의가 늘면 [[기능명-FAQ]] 페이지가 자동 생성되고, 관련 [[제품명]] 페이지와 함께 묶입니다.
고객 지원팀은 Obsidian 위에서 FAQ를 손쉽게 관리하고, 에이전트가 제안하는 갱신안을 검토해 지식 베이스의 품질을 꾸준히 끌어올릴 수 있습니다.

 

 

결론: 두 방식을 어떻게 조합할 것인가

 

Hermes Agent는 RAG와 LLM Wiki + Obsidian이라는 두 가지 지식 관리 접근 방식을 모두 지원합니다. RAG는 실시간 정보 검색을 통해 최신 정보를 빠르게 활용하는 데 강점이 있고, LLM Wiki + Obsidian은 에이전트의 능동적 구축과 유지보수를 통해 구조화되고 심화된 지식 베이스를 만드는 데 더 탁월합니다.

 

따라서 정답은 둘 중 하나가 아니라 둘의 조합에서 나오는 경우가 많습니다. 주기적으로 변경되는 법령이나 기술 문서처럼 변화 추적과 구조화가 중요한 영역은 LLM Wiki + Obsidian이 적합하고, 방대한 매뉴얼 속에서 즉시 답을 찾아야 하는 경우에는 RAG가 더 효과적입니다.

 

운영 측면에서도 두 방식을 병치할 수 있습니다. RAG가 "지금 이 질의에 가장 적합한 단편"을 빠르게 가져오고, LLM Wiki가 "오랜 축적이 필요한 도메인의 큰 그림"을 책임지면, 에이전트는 두 출처를 함께 활용해 답변의 정확성과 깊이를 동시에 끌어올릴 수 있습니다.

 

Hermes Agent와 함께라면 지식은 한 번 작성해두고 끝나지 않습니다.
작은 메모에서 출발해 위키로, 위키에서 다시 Obsidian 그래프와 RAG 검색 색인으로 확장되며, 끊임없이 성장하는 구조 안에서 관리됩니다.

 

 

참고 자료

1. hermes-agent/skills/research/llm-wiki/SKILL.md — Hermes Agent 공식 GitHub 저장소.
본 글의 llm-wiki 스킬과 Ingest/Query/Lint 동작은 모두 본 문서를 1차 출처로 인용했습니다.

2. Karpathy's LLM Wiki: build/query interlinked markdown KB — Hermes Agent 공식 문서. LLM Wiki 패턴의 정의와 상호 연결된 마크다운 KB의 구조를 설명합니다.

3. How I Built a Self-Improving LLM Wiki with Hermes Agent (and Why I'm Not Using Obsidian) — Medium.
본 글에서는 Obsidian과 웹 프론트엔드의 병존 사례를 인용하기 위해 참고했습니다.

4. How I use Obsidian as the long-term memory backbone for my AI assistant — Reddit. Obsidian 위키링크·그래프 뷰를 LLM Wiki의 가시화 도구로 활용하는 사용자 사례를 인용했습니다.