Karpathy의 LLM-Wiki를 보며 든 생각: RAG보다 지식을 축적하는 위키가 더 중요할 수 있다
Karpathy의 LLM-Wiki 아이디어를 보면, 문서를 매번 다시 검색해 답을 만드는 RAG보다 LLM이 점진적으로 지식을 정리하고 유지하는 영속적 위키가 더 실용적일 수 있다는 생각이 든다. 중요한 건 검색보다 축적과 북키핑 자동화다.
Karpathy의 LLM-Wiki 아이디어를 보면, 문서를 매번 다시 검색해 답을 만드는 RAG보다 LLM이 점진적으로 지식을 정리하고 유지하는 영속적 위키가 더 실용적일 수 있다는 생각이 든다. 중요한 건 검색보다 축적과 북키핑 자동화다.
Claude 같은 구독형 AI 서비스가 OpenClaw 같은 써드파티 harness 사용을 막는 흐름을 보면, 이건 단순한 정책 문제가 아니라 요금 구조와 사용 패턴의 충돌에 더 가깝다. 에이전트형 사용이 커질수록 월정액 모델은 점점 더 불안해진다.
apfel은 Apple Silicon Mac에 이미 들어 있는 Apple Intelligence 모델을 CLI, OpenAI 호환 서버, 대화형 채팅으로 풀어낸다. 흥미로운 건 모델 자체보다, 그걸 실제 작업 도구로 바꾸는 인터페이스와 구조다.
Gemma 4 공개를 보고 나니 온디바이스 AI를 더 이상 체험용으로만 보긴 어렵다는 생각이 들었다. 메인 모델을 대체하진 않더라도, 실제 에이전트 시스템의 보조 계층으로는 꽤 현실적인 선택지가 되고 있다.
Claude Code 유출 소스를 다시 분석한 글을 읽고 나면, 이 도구의 강점이 모델 하나보다 세션 구조, 작업 그래프, 권한, 도구 호출 같은 작업 운영 구조에 더 많이 들어 있다는 점이 더 선명하게 보인다.