LLM-wiki 패턴

• LLM-wiki 패턴은 AI 에이전트가 직접 만들고 유지보수하는 plain markdown 지식 베이스 패턴
• RAG처럼 매 질의마다 원문을 검색하는 대신, 지식을 미리 구조화·상호링크된 페이지로 선(先)컴파일하는 방식
• 시간이 갈수록 지식이 누적되어 가치가 커지는 compounding knowledge base
• Andrej Karpathy가 2026년 4월 gist로 공개한 에이전트 메모리 컨벤션 (며칠 만에 5,000+ star)

쉽게 이해하기

시험기간 “요약 노트”를 떠올려 보자. 매 시험마다 교과서 500쪽을 처음부터 다시 읽으면(=RAG) 너무 비효율적이다. 대신 한 번 정리한 요약 노트를 계속 고쳐 쓰면, 학기 말엔 노트 하나로 전부 정리된다(=compounding, 누적).

LLM-wiki는 이 요약 노트를 AI 조교가 대신 관리하는 것이다. 내가 자료(논문·기사·강의록)를 던져주면(ingest), 조교가 핵심을 정리한 위키 페이지를 만들고 관련 페이지끼리 링크를 걸어둔다. 다음에 질문하면 교과서를 다시 뒤지지 않고 정리된 노트만 읽고 답한다. 게다가 이 조교는 지치지도, 링크 갱신을 까먹지도 않는다.

해당 개념이 필요한 이유

• RAG는 매번 같은 문서에서 같은 사실을 반복 검색 → 비효율적이고 누적되지 않는 구조
• 사람은 cross-reference 갱신·북키핑(bookkeeping)을 귀찮아 포기 → 개인 위키가 방치되어 썩음
• LLM은 지치지 않고, cross-reference를 잊지 않으며, 한 번에 15개 파일을 갱신 가능 → 북키핑이야말로 LLM이 잘하는 일 (Karpathy)

AS-IS — RAG (매 질의마다 원문 재검색)

sequenceDiagram
    autonumber
    actor User
    participant Agent
    participant Docs as Raw Docs (원문)
    User->>Agent: 질문 A
    Agent->>Docs: 검색 + 청크 임베딩
    Docs-->>Agent: 관련 청크
    User->>Agent: 질문 A (또 다시)
    Agent->>Docs: 같은 검색 반복
    Note over Agent,Docs: 같은 사실을 매번 처음부터 재발견 (비누적)

TO-BE — LLM-wiki (선컴파일된 지식)

sequenceDiagram
    autonumber
    actor User
    participant Agent
    participant Wiki as wiki/ (LLM 생성 페이지)
    participant Raw as raw/ (불변 원본)
    User->>Agent: 새 소스 (ingest)
    Agent->>Raw: 원본 보관
    Agent->>Wiki: entity 페이지 생성·갱신 + 상호링크
    User->>Agent: 질문 (query)
    Agent->>Wiki: 정제된 페이지 읽기
    Note over Agent,Wiki: 지식이 누적되며 점점 더 유용해짐 (compounding)

3-layer 아키텍처

• raw/ — 불변(immutable) 원본 소스
• wiki/ — LLM이 생성한 정제된 페이지
• CLAUDE.md — 스키마/규약 정의 (에이전트에게 패턴을 지시)

핵심 연산 3가지

• ingest — 새 소스를 처리해 wiki 페이지로 반영
• query — wiki를 읽어 질문에 답
• lint — cross-reference·구조 헬스 체크

Karpathy의 비유

“Obsidian은 IDE, LLM은 프로그래머, wiki는 코드베이스”다. 사람은 한쪽에서 graph view와 링크를 탐색하고, 에이전트는 반대쪽에서 파일을 편집한다.

OKF와의 관계

OKF (Open Knowledge Format)는 바로 이 LLM-wiki 패턴을 이식 가능(portable)·상호운용 가능(interoperable)한 벤더 중립 포맷으로 표준화한 것이다. LLM-wiki가 “개인/팀이 각자 만드는 관습”이라면, OKF는 “서로 다른 producer가 쓴 wiki를 서로 다른 agent가 번역 없이 소비”할 수 있게 만든 공통 명세다.

실제 적용 사례

① Karpathy 본인의 개인 리서치 위키

Karpathy는 이 패턴으로 100개 이상 문서·40만 단어 규모의 개인 AI 리서치 위키를 운영한다.

이점 — 이 정도 밀도에 이르면 단순 RAG(매번 원문 재검색)도, 사람의 기억도 못 하는 교차 추론이 가능한 “증강된 기억(augmented memory)“이 된다. 즉 규모가 커질수록 가치가 떨어지는 게 아니라 오히려 커지는 지식 베이스가 만들어진다는 것을 본인이 직접 입증한 사례다.

② Obsidian + Claude Code로 “AI Second Brain” 만들기 (실제 빌드 사례)

한 사용자가 Karpathy gist를 그대로 적용해 흩어져 있던 Notion·Pocket·북마크를 AI가 관리하는 단일 지식망으로 바꾼 과정이 구체적이다.

• 폴더 구조 — sources/·inbox/(읽은 원문, 한 번 넣으면 수정 안 함) · wiki/(LLM이 생성·유지하는 요약·개념 페이지) · CLAUDE.md(에이전트를 “규율 있는 위키 관리자”로 만드는 스키마)
• ingest — /ingest-url로 글을 넣으면 Claude가 원문을 읽고 한 번에 5~15개 페이지를 만들거나 갱신하고, 관련 개념끼리 wikilink를 자동으로 건다
• query — 6개월 뒤 질문해도 “그동안 넣은 모든 자료에서 종합된” 답을 받는다
• lint — /lint-wiki가 끊긴 링크, 고아(orphan) 페이지, 내부 모순, 다음에 채울 지식 공백을 점검한다

구체적 효과 — Paul Graham의 “How to Think for Yourself” 에세이를 ingest하자, Claude가 *“글쓰기가 사고를 명료하게 한다”*는 한 가닥 주제로 전혀 다른 세 저자의 글(에세이·뉴스레터·팟캐스트 노트)을 자동으로 이어버렸다. 사람은 절대 긋지 않았을 연결이 emergent하게 생긴 것이다. 저자의 결론: 개인 위키가 망하는 진짜 이유인 *“유지보수 부담”*을 LLM이 떠안으면서, 넣을수록 위키 전체가 똑똑해지는(compounding) 네트워크가 된다.

③ 오픈소스로 굳어진 패턴 — obsidian-wiki

gist 공개 며칠 만에 5,000+ star / 5,000+ fork가 붙었고, 이를 프레임워크로 구현한 obsidian-wiki 같은 오픈소스가 등장해 에이전트가 Obsidian 위키를 자동 구축·유지하도록 만들었다.

이점 — 패턴이 “Karpathy의 개인 실험”에서 누구나 복제 가능한 5분 셋업으로 내려왔다는 의미다. 2026년 가장 영향력 있는 에이전트 메모리 문서 중 하나로 자리 잡았다.

참고 문서

• LLM Wiki — Andrej Karpathy gist
• Beyond RAG: How Karpathy’s LLM Wiki Pattern Builds Knowledge That Compounds (Level Up Coding)
• Karpathy LLM Wiki Pattern: Agent Memory Guide (explainx.ai)
• How to Build a Personal Knowledge Base With Claude Code (MindStudio)
• obsidian-wiki — Karpathy 패턴 구현 프레임워크 (GitHub)