AI 좀비

흔히 LLM이라고 부르는 AI는 원래부터 글을 생성하기 위해 만들어졌습니다. AI라는 단어는 이제 비정형데이터를 분류하고 정렬하고 분석하고 행동하는 인공지능보다는 흔히 쓰는 ChatGPT, Claude, Gemini 등의 언어모델을 지침하는 대명사처럼 굳어졌죠. 원래는 사실을 틀리거나, 논리적 오류가 있거나, 환각등의 문제가 있어 사실상 지식생산 보다는 주어진 지식의 정리에 가까운 용도로 사용하곤 했습니다. 다른 여러 사용 용도도 많이 존재했죠.

LLM의 첫번째 실용적 사용처는 코드였습니다. 물른 ChatGPT3 시절부터 이미 이를 이용해 블로그를 작성하는 등의 많은 활용처가 존재하지만, 저는 여전히 유효한 사용처는 코드밖에 없다고 생각합니다. 번역, 윤색 등의 우리가 실제세계에서 쓰는 언어는 명확한 취향이 존재하기에 취향이나 철학(고집이라고도 합니다)이 없는 AI는 인간을 여전히 넘기 힘듭니다. 물론, 결과물이 훌륭하긴 합니다. 하지만 훌륭한 것이 옳고 좋은 것은 뜻하지 않는다고 생각합니다.

AI의 첫번째 실용적 사용처가 코드인 이유는, 수학적 산물이기 때문입니다. 항상 정량화 가능하고, 오류여부를 탐지할 수 있습니다. 따라서 진실과 거짓을 명징하게 피드백할 수 있고, 이 피드백은 다시 LLM에 입력되어 피드백 루프를 형성합니다. 즉, 자기개선이 가능한 분야이기 때문에 가장 실용적입니다.

하지만 같은 코드여도 AI가 잘 못하는 것이 있습니다. UI/UX입니다. AI는 여전히 인간이 실제 세계에서 어떤 것을 선호하는지 모릅니다. UI 디자인 초안을 주어도 이 디자인에서 이부분의 곡률은 왜 이정도 크기여야 하는지, 그렇다면 해당 초안의 크기가 커졌을때 곡률을 어떻게 조정해야 하는지 AI가 어떤 식으로 판단하는지 살펴보면 - 전혀 판단하지 않습니다. 처음 작성할때 절대값으로 작성했으면 절대값, 상대값으로 작성했으면 상대값으로 만들어냅니다. 이런 과정에서 개선을 기대하려면 필연적으로 사람이 개입해야 합니다. UX도 마찬가지입니다. 요즘 AI가 기억능력을 갖도록 외장 문서를 주었지만, 여전히 설계철학이나 사용자경험에 관한 문제 해결능력은 바닥을 기어다닙니다.

안드레 카파시 이후로, LLM wiki가 등장했습니다. 이 영역에 관심이 있으신 분들은 알겠지만, 4월에 안드레 카파시가 LLM wiki에 대한 블로그 글을 작성한 후로 폭발적으로 이 영역(특히 옵시디언을 포함해서)에 대한 관심이 증가하고 있습니다. 유튜브 피드마저 이 주제들이 심심치 않게 보이는 수준입니다. 그러나 이미 옵시디언과 LLM을 접목해본 경험이 있으신 분들은 이 아이디어가 생각보다 새롭지 않다는 것을 알고 계실겁니다. 옵시디언 유저들은 정말, 정말 많은 시도를 해왔습니다. 문서 유사도를 탐색하는 것부터 RAG, 자동 태깅에 이르는 수많은 연결 자동화부터 LLM에 문서 작성을 외주맡기는 플러그인의 종류는 너무 많은 수준입니다.

이 글에서는 철저히 세컨드브레인 관점에서 LLM wiki를 공격합니다. LLM wiki는 코드 작성 관점에서 LLM에게 내가 은연중에 보여주는 개발 철학, 지식베이스를 공유하며 작업에 일관성을 부여하는 아주 좋은 도구입니다. 그러나 세컨드브레인은 아니며, 개인지식관리는 더더욱 아닙니다. 왜 그렇게 생각하는지를 아래에 정리했습니다.

AI는 진실을 보장하지 않는다.

첫번째 문제는, AI는 진실공급원이 아니라는 것입니다. 심지어 검색을 기반으로 말했더라도 그렇습니다. 우리는 AI가 어떤 소스를 보았는지 모르고, AI의 사고사슬을 다 뒤져서 무엇을 보았는지 알더라도 그 외에 무엇이 있는지 모릅니다. 이건 마치 부하직원의 말을 100% 다 믿는 것과 같습니다. 반드시 의심해야 합니다.

어떤 문서의 출처가 AI가 아니라 상당히 똑똑한 사람의 것이라도, 진실을 알기 위해서는 반드시 둘 이상의 진술이 필요합니다. 사람은 두명에게 일을 시키기 마련이지만, AI는 대개 같은 LLM을 두번 부를 뿐입니다. 이렇게 만들어진 문서는 아무런 쓸모가 없습니다. 정작 사용할 때가 되면 내가 다시 확인해야하고, 다시 읽어봐야 합니다. 심지어 작성과정에 내가 개입하지 않았기 때문에 작업기억조차도 없습니다. Zero earn - 아무런 이익도 보지 못합니다.

물론 해결방법은 있습니다. 두개 이상의 프론티어급 모델 혹은 에이전트 워크플로우를 사용하는 것입니다. 하지만 이렇게 하면 1회 질의하는 데에 1달러 이상의 비용이 듭니다. 98퍼센트쯤 애매하게 신뢰할 수 있고, 이런 유지보수를 볼트 전체에 적용하게 되면 비용은 기하급수적으로 커집니다. 토큰이 무한히 주어진다면 당연히 해보겠지만, 일반 사용자에게는 그런 자본도 없고 실제로 그정도 효용도 나오지 않습니다.

개인지식관리의 근본적 가치는 문서에 있지 않다.

중요한 것은 문서 자체가 아니라 글을 쓰는 행위에 있습니다. 자료를 찾아보고, 내용을 정리하고, 글을 쓰는 행위가 개인지식관리의 본질입니다. 이 전 과정, 사고의 사슬을 온전히 옵시디언에 보관하는 것으로 작업행동 전체를 아카이빙하는 것이 좀 더 나아간 형태의 개인지식관리입니다. 이 과정에서 진실은 오직 하나입니다. 그 소스를 봤다는 것과 보관된 과정을 따라서 사고하고 글을 작성했다는 것.

결과물은 오히려 중요하지 않습니다. 왜 그런 결과물이 나왔는지 추적하는 것이 중요합니다. 사실 대부분의 경우 우리는 스스로 그 글을 적었다는 가정 하에 - 그 글이 어쩌다가 적혔는지 기억합니다. 그러나 AI를 이용해서 작성한 글은 전혀 기억하지 못합니다. 관련 조사에서는 전체 조사자중 14.8%만이 AI가 생성한 잘못된 답변을 고쳤고, 49.5%가 제출한 과제물에 대하여 기억하지 못하거나 틀린 대답을 했다고 합니다(https://www.sisaworld.kr/news/articleView.html?idxno=16733). 관련 논문에서는 ChatGPT를 통해 글을 쓰면 83%가 1분만에 자신이 쓴 글을 잊어버린다는 내용의 MIT media lab 논문도 있습니다(https://arxiv.org/abs/2506.08872, 한국어 요약 : https://news.hada.io/topic?id=26055). 지식습득 측면에서는 LLM과 함께 글을 쓰는 것은 최악의 방식인 셈입니다.

그리고, 글을 쓰는 행위를 넘어서 옵시디언의 능력을 99% 활용하는 방식은 사고에 엄청난 부하를 줍니다. 링크를 걸고 태그를 입력하고 어떨 때에는 스트레스마저 느껴 LLM과 자동화로 어떻게든 도망치고 싶은 생각이 간절해집니다. 하지만 이때 느끼는 이 부하와 사고의 재배치는 지식의 생산, 혹은 더 깊은 본질인 '지혜(wisdom)의 취득에 매우 중요한 단계입니다. 몸이 다치는 것을 걱정하면 어떤 신체기술을 얻기 매우 어려운 것과 궤를 같이합니다. 제가 길게 설명하는 것보다 관련한 흥미로운 글을 추천해드리는 것이 더 나을 듯합니다. (https://thinkingsian.com/llm-wiki-and-germane-load/)

옵시디언이 해주어야 하는 일은 공간 제공 뿐입니다.

옵시디언이 글을 대신 적어주고, 정리를 대신 해주어서는 안됩니다. 일부 기능을 맡길수는 있습니다. 예를 들어 오늘 쓸 글의 힌트를 얻거나, 보충이 필요한 글을 찾거나, 내가 어쩌면 잊었을지도 모르는 일정 혹은 정보를 리마인드해주는 기능은 틀림없이 필요하고, 유용한 기능입니다. 그러나 본질에 닿는 일은 자동화가 되어선 안됩니다.

LLM은 기본적으로 사용자가 원하는 말을 해주는 기계라는 것을 잊어선 안됩니다. 애초에 훈련부터가 인간이 선호하는 말을 하도록 진행됩니다. LLM에게 모든 리뷰, 정보수집을 맡게 되면 사용자의 맥락을 따라 그대로 진행할 것이고 당신이 원하는 것만 가져오게 됩니다. 그럼 결국 당신은 우물에 갇히게 됩니다. Vault는 당신의 문서를 보관하는 금고가 되어야 하지, 당신을 당신에 세상에 가두는 도구가 되어서는 안됩니다.

우리가 원하는 LLM wiki는 이미 훌륭한 대체재가 존재합니다.

인터넷 자체가 이미 거대한 wiki입니다. 우리가 관리해줄 필요 없이 이미 존재하는 문서들이며, 선의의 인터넷 이용자들에 의해 실시간으로 업데이트되고 수많은 방식으로 크로스체크 할 수 있습니다. 개인적인 방식으로 범용 위키를 만드는 것보다 위키피디아나 차라리 나무위키를 보는 것이 훨씬 저렴하고 유용합니다. 에이전틱 워크플로우를 쓰는 것과 신뢰도 측면에서 사실상 별다를것도 없으며, 심지어 무료입니다. 여길 기반으로 레퍼런스를 범위를 넓혀가며 수집하고 문서를 작성하면 이미 훌륭한 개인지식생산입니다. LLM wiki는 적어도 지식생산측면에서는 쓸모가 없다고 말하는 것이 이 때문입니다.

마치며: AI 좀비

AI는 좋은 도구입니다. 저는 실제로 각종 분석과 리서치에 적극적으로 사용하고 있으며, 범용지식에 대한 학습도구로 사용합니다. 그러나 이것을 개인지식생산에 적용하는 것은 무척이나 회의적입니다. 이미 많이 실패했고, 수많은 관련 플러그인을 설치 삭제를 반복해가며 원리적으로 의미가 없음을 깨달았습니다. 그러나, 수많은 사람들이 이 광풍에 몸을 싣고 LLM wiki에 대하여 설파하고 있습니다. 마치 만능인것처럼요.

LLM wiki는 좋은 도구 일 수 있습니다. 그러나 장기적으로, 단언컨대 당신의 발전에 도움은 커녕 해로울 것입니다. 어느 시점부터는 세컨드브레인이 가진 지식의 범위를 당신의 퍼스트브레인조차 인지하지 못하게 될 것이고, 그 다음엔 그 보관소가 당신의 것이 아니게 될 것입니다. 그냥 지나치게 작은 인터넷의 열화판이 될 것입니다. 당신의 퍼스트브레인은 결국 모든 일의 병목이 될 것이고, 당신은 결정을 하게 됩니다. 당신의 작업환경에서 병목은 배제되고 - 즉, 당신의 자아가 빠지게 되고 모든것이 자동화됩니다. 그곳에 어떤의미가 있나요?

물론 지나치게 비관적인 시나리오임에는 동의합니다. 그러나 현재의 광풍에는 어느때보다 강한 브레이크가 필요합니다. 사고를 외주화 하는 것은 한순간이고, 그 후에는 당신의 세계를 당신이 리드하지 못하게 될 것입니다. 세계를 뒤쫒는 것은 너무 어렵고 힘든 일입니다. 이 글을 읽는 여러분이 행복하길 바랍니다.