AI가 스스로 유지하는 나만의 지식베이스 — Karpathy의 LLM Wiki

 

 

들어가며

지식 관리 분야에서 가장 주목받는 방식 중 하나는 단연 개인 위키(Personal Wiki) 입니다.

위키는 단순히 문서를 저장하는 것을 넘어, 개념 간 연결을 통해 지식을 복리로 쌓아가는 시스템입니다.

 

하지만 위키를 직접 운영해보면 생각보다 손이 많이 간다는 걸 깨닫게 됩니다.

새 문서를 읽으면 기존 페이지를 업데이트해야 하고, 용어집을 관리해야 하며, 중복되거나 모순된 내용을 정기적으로 점검해야 합니다. 교차 참조까지 직접 연결하다 보면 "지식을 쌓는 것"보다 "위키를 유지하는 것"에 더 많은 시간을 쓰게 됩니다.

 

결국 위키는 항상 같은 이유로 방치됩니다. 유지보수가 너무 귀찮아서.

 

그런데 최근 Andrej Karpathy가 이 귀찮은 과정을 AI에게 통째로 넘기는 아이디어를 공개했습니다. 바로 LLM Wiki입니다.

 

 

 

LLM Wiki가 뭔가요?

OpenAI 공동창업자이자 전 Tesla AI 팀장인 Andrej Karpathy가 공유한 짧은 마크다운 문서 llm-wiki.md에서 시작된 아이디어입니다.

 

앱도 아니고, 제품도 아닙니다. 개념은 단순합니다.

 

"AI 에이전트에게 문서를 주면, 에이전트가 위키를 만들고 스스로 유지하게 하자."

 

기존 AI 도구들은 문서를 업로드하고 질문하면 답변해주지만, 대화가 끝나면 아무것도 남지 않습니다. 매번 새로운 세션에서 처음부터 시작해야 하죠.

 

LLM Wiki는 반대로 작동합니다. 문서를 넣으면 AI가 위키 페이지를 생성하고 저장하며, 새 문서가 들어올수록 기존 위키에 추가하고 업데이트합니다. 문서가 쌓일수록 연결이 풍부해지고, 지식이 복리로 불어나는 구조입니다.

 

원문: Karpathy's llm-wiki.md (GitHub Gist)

llm-wiki

 

 

 

LLM Wiki 구성하기

어떤  IDE를사용해도 좋습니다. 많은 사람들은 옵시디언 + Claude code 를 사용하는데, 저는 Antigravity  + Codex plugin을 사용했습니다. 

 

1. 우선 빈 프로젝트를 생성합니다.

 

2. 안드레 카파시의 llm-wiki.md를 다운받아서 해당폴더에 넣어둡니다. (그냥 원문을 복사 붙여넣기 해도됩니다.)

 

3. 본인이 사용하는 llm을 이용해 아래 명령어를 입력해주세요.(저는 codex를 사용합니다.)

What is this and how can I make use of this as a technical writer?

그러면 codex는 llm_wiki를 읽어 내용을 정리합니다. 

 

4. 그 다음 아래 명령어를 입력합니다.

Can you make a plan and create?

그러면 정리된 내용을 바탕으로 적절한 폴더 구조와 AGENTS.md파일을 생성해줍니다. claude code를 쓴다면 CLAUDE.md 파일이 생성됩니다.

 

5. 이제 wiki를 구성하기 위한 기본 준비가 끝났습니다. 만약 여러개의 wiki를 구현하려고한다면, 굳이 이 단계를 반복하지말고, github에 push 해두 었다가 사용해도 되고, 아니면 그냥 copy 해서 사용해도 됩니다.

 

당연히 누가  이미 구현해뒀습니다.

 

https://github.com/balukosuri/llm-wiki-karpathy

GitHub - balukosuri/llm-wiki-karpathy

 

 

 

 

LLM Wiki의 구조

LLM Wiki는 세 가지 레이어로 구성됩니다.

 

🔹 raw/ — 원본 자료 폴더

PDF, 마크다운, 기사 클립, 회의록 등 내가 넣는 문서들이 위치합니다. AI는 여기서 읽기만 하고 절대 수정하지 않습니다. 원본 보존이 보장됩니다.

 

🔹 wiki/ — AI가 만들고 관리하는 위키

AI가 전적으로 소유하는 공간입니다. 개념 페이지, 용어집, 인덱스, 요약 페이지가 이곳에 자동으로 생성됩니다. 사용자는 읽기만 합니다. 직접 수정하려는 충동은 참는 것이 좋습니다.

 

🔹 CLAUDE.md — 위키의 규칙서

AI에게 주는 지침서입니다. 어떤 페이지 타입이 존재하는지, 문서 처리 순서는 어떻게 되는지 등이 정의됩니다. 이 파일을 수정하면 위키의 전체 동작 방식을 바꿀 수 있는 핵심 설정 파일입니다.

 

저는 Codex로 실행하는데, 그 경우 CLAUDE.md 가아니라 AGENTS.md 파일이 생성됩니다!

 

 

 

LLM Wiki가 제공하는 주요 기능

LLM Wiki는 단순히 문서를 저장하는 도구가 아닙니다. 세 가지 핵심 명령어를 통해 지식베이스를 능동적으로 구성하고 유지합니다.

 

🔹 Ingest — 문서 넣기

"Ingest raw/product-spec.pdf"

AI가 문서를 읽고, 위키 페이지를 생성하며, 기존 페이지를 업데이트하고, 용어집을 갱신하고, 인덱스를 정리합니다. 문서 하나가 위키 페이지 10~15개에 영향을 줍니다.

한 번에 여러 문서를 처리하기보다 하나씩 넣고 AI 요약을 확인하면서 진행하면 품질이 훨씬 높아집니다.

 

🔹 Query — 질문하기

"지금까지 수집된 자료에서 주요 리스크가 뭐야?"

AI가 위키를 기반으로 답변합니다. 원본 문서를 매번 다시 읽는 방식이 아니라, 이미 정리된 위키를 참조하기 때문에 응답 품질이 안정적입니다. 좋은 질문과 그에 대한 답변은 분석 페이지로 저장할 수 있어, 질문 자체가 지식베이스를 풍부하게 만드는 행위가 됩니다.

 

🔹 Lint — 위키 건강 검진

"Lint the wiki"

10번 정도 ingest 후 한 번씩 실행하는 것이 권장됩니다. AI가 모순된 내용, 오래된 정보, 연결이 없는 고립 페이지 등을 찾아 리포트해줍니다. 위키가 커질수록 이 단계가 중요해집니다.

 

 

 

LLM Wiki 비용

LLM Wiki 자체는 별도의 비용이 없는 오픈소스 아이디어입니다.

 

비용이 발생하는 구간은 오직 AI 에이전트 사용료뿐입니다. Cursor, Claude Code 등 사용하는 도구의 구독 또는 API 비용이 전부입니다.

 

추가 인프라 세팅이 전혀 필요 없으며, 벡터 DB나 임베딩 서버 등 별도 운영 비용도 발생하지 않습니다. 위키 파일은 단순한 마크다운 파일로 로컬에 저장되기 때문입니다.

 

 

 

LLM Wiki 단점?

LLM Wiki는 아이디어 레벨의 프로젝트인 만큼, 실제 운영에서 마주치는 한계도 분명히 있습니다.

 

AI 에이전트에 대한 의존성이 가장 큰 제약입니다. 위키 생성과 유지보수 전체가 에이전트 호출로 이루어지기 때문에, 에이전트의 컨텍스트 한계나 응답 품질에 직접적으로 영향을 받습니다. 문서가 많아질수록 ingest 과정에서 누락되거나 잘못 연결되는 경우가 생길 수 있습니다.

 

또한 구조화된 검색이 불가능합니다. 메타데이터 필터링이나 시맨틱 서치 같은 정밀한 검색 기능은 제공되지 않으며, 위키 탐색은 전적으로 AI의 판단이나 Obsidian 같은 외부 도구에 의존합니다.

 

버전 관리나 협업 기능도 없습니다. 위키 파일이 로컬 마크다운으로 관리되기 때문에 팀 단위 사용이나 변경 이력 추적이 기본적으로 지원되지 않습니다. Git을 직접 연동하지 않으면 히스토리 관리가 어렵습니다.

 

 

 

마무리

LLM Wiki와 관련한 전체 내용을 정리하면 다음과 같습니다.

항목	LLM Wiki 특징
형태	마크다운 기반 AI 유지 위키
엔진	AI 에이전트 (Claude Code, Cursor 등)
비용	에이전트 사용료 외 없음
지원 포맷	PDF, 마크다운, 텍스트 등
장점	설정 없이 즉시 시작, 지식 복리 축적
한계	에이전트 의존성, 정밀 검색 미지원, 협업 미지원

LLM Wiki는 완성된 제품이 아니라 "지식 관리의 방향성을 제시한 프로토타입" 에 가깝습니다.

 

그럼에도 이 아이디어가 중요한 이유는, 위키가 실패하는 근본 원인을 정확히 짚었기 때문입니다. 문제는 동기부족이 아니라 유지보수 노동이었고, LLM Wiki는 그 노동을 AI에게 넘깁니다.

 

읽고, 생각하고, 좋은 문서를 찾는 것은 여전히 사람의 몫입니다. 하지만 정리하고, 연결하고, 최신화하는 반복 노가다는 AI가 잘하는 일입니다. 그 역할 분담이 LLM Wiki의 핵심입니다.

 

앞으로 이 방향성이 더 정교한 도구로 발전하길 기대해 봅니다.

 

 

Reference

• Karpathy's llm-wiki.md — GitHub Gist
• I used Karpathy's LLM Wiki to build a knowledge base that maintains itself with AI — Balu Kosuri (Medium)
• llm-wiki-karpathy — GitHub