RAG 다음은 위키 — Karpathy의 LLM Wiki 패턴
Andrej Karpathy가 올린 짧은 노트(gist)를 읽고 정리. 요지는 하나 — RAG는 검색만 하고 끝나지만, LLM이 위키를 지속적으로 쌓고 관리하게 하면 지식이 누적된다는 것.
RAG의 빈자리
RAG(검색 증강 생성)는 이렇게 돎. 파일을 올리면 → 질문에 관련된 청크를 검색해 → 그걸 근거로 답을 생성함. 잘 작동함. 근데 Karpathy가 찌르는 지점은 명확함 — 누적이 없음.
매번 질문할 때마다 원본을 새로 뒤질 뿐, 어제 얻은 통찰이 오늘의 지식 베이스로 굳지 않음. 읽고 → 답하고 → 휘발. 검색은 하지만 성장하지 않는 구조임.
제안: LLM이 위키를 굴린다
대안은 단순함. LLM에게 검색이 아니라 위키 유지를 시킴.
- 새 자료가 들어오면 → 요약하고 → 기존 페이지들을 업데이트하고 → 상호참조를 잇고 → 모순을 기록함.
- 위키는 일회성 답변이 아니라 **영구적인 복합 산물(durable compounding artifact)**로 남음.
즉 대화가 끝나도 지식이 파일로 축적됨. 다음 자료는 그 위에 얹힘. 이게 RAG와의 결정적 차이.
3계층 아키텍처
| 계층 | 역할 |
|---|---|
| 원본 자료(Raw) | 불변 소스 — 기사·논문·이미지. 손대지 않음 |
| 위키(Wiki) | LLM이 생성·관리하는 마크다운 파일 묶음 |
| 스키마(Schema) | 위키 구조·작업 규칙을 정의한 설정 문서 (예: CLAUDE.md) |
핵심은 스키마임. “이 위키는 이런 구조로, 이런 규칙으로 쌓아라”를 문서 하나로 못박아두면, LLM이 매번 같은 방식으로 위키를 키움. 사람이 규칙을 정하고, LLM이 규칙대로 노동함.
세 가지 작업 흐름
Ingest 새 자료 → 요약 → 관련 페이지 ~15개 업데이트
Query 위키에서 답변 → 좋은 답변은 새 페이지로 승격·저장
Lint 모순·낡은 정보·고아 페이지·끊긴 상호참조 점검- Ingest(수집) — 넣을 때마다 관련된 여러 페이지를 함께 갱신. 한 자료가 15개쯤 페이지를 건드림.
- Query(질의) — 답을 위키에서 뽑되, 쓸만한 답은 버리지 않고 새 페이지로 굳힘.
- Lint(점검) — 위키가 썩지 않게 정기적으로 모순·중복·고아를 잡음.
왜 이게 먹히나
Karpathy의 관찰이 날카로움 — **위키 유지의 진짜 병목은 읽기나 사고가 아니라 ‘사무 업무’**임.
상호참조 갱신, 일관성 유지, 페이지 정리… 이건 인간이 제일 쉽게 포기하는 부분임. 귀찮으니까. 근데 LLM한텐 이게 사소함. 사람이 싫어하는 그 노동이 정확히 LLM이 잘하는 것. 그래서 분업이 자연스럽게 맞아떨어짐 — 판단·방향은 사람, 정리·연결·정합은 LLM.
활용
- 개인 — 목표·건강·심리 추적
- 연구 — 논문 축적·종합
- 독서 — 챕터별 정리 누적
- 팀 — Slack·회의록 기반 내부 위키
도구는 거들 뿐
패턴 자체는 마크다운 + LLM이면 끝이고, 나머진 선택임.
- Obsidian — 위키의 IDE (그래프 뷰·웹 클리퍼)
- qmd — 위키 검색
- Marp — 마크다운 슬라이드
- Dataview — 동적 페이지 쿼리
원문도 “의도적으로 추상적”이라고 못박음. 구체 구현은 각자 도메인에 맞게 LLM과 같이 만들라는 것.
읽고 나서 — 이미 하고 있었다
낯익었음. 나는 Claude Code의 memory 기능을 딱 이렇게 쓰고 있음.
MEMORY.md가 스키마 겸 인덱스 — 어떤 사실을 어떤 형식으로 남길지 규칙 + 한 줄 포인터.- 각 사실은 한 파일 = 위키 페이지. frontmatter로 타입·설명을 달고,
[[다른-메모]]로 상호참조. - 새 맥락이 생기면 관련 메모를 갱신하고, 틀린 건 지움 = Ingest + Lint.
Karpathy의 프레이밍이 좋은 건, 흩어져 있던 이 습관에 이름과 구조를 준다는 점임. “RAG는 검색, 위키는 누적”이라는 한 줄이 왜 memory 기반 워크플로가 대화형 RAG보다 오래 남는지를 설명해줌.
정리
- RAG는 검색, LLM Wiki는 누적. 대화가 끝나도 지식이 파일로 굳음.
- 아키텍처는 원본 / 위키 / 스키마 3계층. 스키마(규칙 문서)가 심장.
- 흐름은 Ingest · Query · Lint.
- 되는 이유: 위키 유지의 병목 = 사무 노동 = LLM이 제일 잘하는 것.
- 도구는 부차. 마크다운 + LLM + 규칙 문서 하나면 시작됨.