AI는 지속불가능한 ONE TO MANY 인가?

왜 요즘 AI 자동화 이야기가 더 많아졌는가

2025년부터 AI의 성능이 올라가고 자동화와 Agent가 거의 기본 구성처럼 붙는 방향으로 가고 있다.
실제로 최근 Work Trend Index나 agent 가이드들을 봐도, 반복 업무는 에이전트가 맡고 사람은 판단과 검토를 하는 하네스 엔지니어링이 대세가 되고 있다.(그전에는 콘텍스트 엔지니어링, 프롬프트 엔지니어링이 있었다)
그러니 AI 자동화에 대한 강의, 자동으로 SNS를 관리해서 돈을 벌었다는 식의 광고멘트가 스멀스멀 보이기 시작한다. 
 
그런데 SNS를 자동화해서 컨텐츠를 뽑아내면, 그걸 또 AI가 가지고 와서 콘텐츠를 만들고, 그걸 또 AI가 학습하는 식의 AI 되먹임이 발생한다. AI는 콘텐츠를 만들 때 SEO와 검색이 잘 되도록 설계하기에 더더욱 가속화된다.
이런 "죽은 인터넷 이론 (Dead Internet Theory)"은 2021년에 나온 말이지만 고작 5년 만에 한국에 있는 나조차도 실감할 수 있을 정도로 현실이 되어가고 있다. 
정보 소비자로서의 나는 AI가 생성한 자료를 예전보다 덜 선호하게 됐고, 신뢰도 쉽게 주지 않게 됐다.
 
요즘 Power BI 관련 교육자료를 만들면서 그걸 더 강하게 느꼈다.
Perplexity Pro를 구독하고 있음에도 불구하고,
AI가 만들어내는 답변이 결국 비슷한 블로그 글, 그것도 같은 종류의 콘텐츠를 반복해서 엮어낸 느낌일 때가 많았다.
(심지어 포맷과 AI 이미지, 목차까지 동일한 구성이었다)
물론 해당 블로그의 내용이 틀린 건 아니었다. 맞는 DAX, 맞는 스키마인데 영양가는 없었다.
사실은 전달하고 있는데, 인사이트가 없었다.
Power BI 설명서를 MS Learn에서 보는 대신 블로그를 읽는 이유는 실제로 사람이 실행하고 경험하면서 쌓은 노하우와 인사이트가 단편의 정보보다 유익하기 때문이다. 

내가 생성형 AI로 만든 콘텐츠 (특히 자동화된 블로그)를 싫어하는 이유

이런 AI가 만들어낸 글은 꼭 제품 설명서 같은 지식을 전달해줄 때가 많다.
왜 안 되는지는 설명하지 않는다. 전자레인지에 금속호일을 넣고 돌리지 마세요라고 적혀 있는 전자레인지 설명서 같은 느낌이다.
 
사람은 정보를 전달할 때 지식뿐 아니라 경험을 전달해준다.
 
호일을 넣고 돌렸더니 불꽃이 튀고 난리가 나더라, 절대 그러지 말아라. 이런 경험을 누군가 공유하면
사람이 정보를 전달하는 인터넷에선 왜 그런지까지 설명해 주는 사람이 존재한다.
누군가는 과학적 원리를 설명한다. 전자레인지는 마이크로파로 전기장을 만들고 그 에너지가 음식 쪽에 전달되는데, 금속의 전자는 그 전기장에 강하게 반응한다. 특히 얇거나 구겨진 호일, 혹은 날카로운 가장자리에서는 전기장이 더 집중되면서 스파크가 발생할 수 있다. 
 
이런 경험과 지식을 보고 나면 왜 오븐에선 호일을 써도 되는데 전자레인지에선 안되는지,
단편적인 정보에서 끝나지 않고, 왜 안 되는지와 어디에는 응용해도 되는지까지 연결해서 설명해 줄 수 있다.
하지만 AI로 만든 콘텐츠는 그럴싸한 정보는 많지만, 경험도 인사이트도 없다.
어쩌면 그냥 당연한 말일 수도 있다. LLM은 그저 학습한 단어 간의 관계와 맥락에서 가장 그럴싸한 다음 말을 이어준다.
A 다음에 올 단어가 B라는 충분한 맥락이 주어지지 않으면 아무리 토큰이 많고 아무리 큰 모델이어도 AI가 스스로 창작을 할 수는 없다. 
(모델 내부에선 A가 올 때 다음에 B가 올 수 있는 확률이 거의 0에 다다르는 콘텐스트 소멸이 올 수밖에 없다. 무한히 아무 말을 할 수 있는 건 인간뿐이다) 
AI가 주는 지식이 항상 무의미하다는 뜻은 아니다.
다만 자동화로 대량 생산되는 콘텐츠에서는 그런 인사이트를 기대하기가 어렵다고 느낀다.
반대로 사람이 지식과 탐구심을 가지고 LLM에게 충분한 콘텍스트와 좋은 답변을 선택해 가면 그 과정에서는 꽤 좋은 인사이트가 생길 것이다. LLM과 대화를 나눈 거 자체가 일종의 간접경험을 제공한 것이기에 이것도 좀 당연한 이야기이다. 

그럼에도 AI 자동화는 필요하다

하지만 그럼에도 AI를 통해 자동화를 하고 효율을 높일 수 있다는 가능성과 효용성에 대해서는 긍정적이다.
내가 AI 자동화를 필요한 도구라고 생각하는 이유는 생각을 대신시키기 위해서가 아니라 뇌에 생각할 자리를 남기기 위해서다.
자료조사, 팩트체크의 첫 단추, 초고 뼈대 잡기, 빠진 관점 찾기 같은 일은 AI가 꽤 잘 도와준다.
그전에 많은 리소스가 들어가던 일에서 힘을 조금 빼면, 내가 가진 경험과 지식을 구조화해서 전달하는 데 더 많은 시간과 생각을 쓸 수 있다.
 
특히 글쓰기에서는 그게 더 크게 느껴진다.
글쓰기에서 가장 힘든 작업은 초고보다 퇴고일 때가 많다.
문장이 겹치지 않는지, 내가 아는 걸 독자도 안다고 착각하고 쓰진 않았는지, 결론이 너무 빨리 튀진 않았는지 보는 일이 훨씬 어렵다.
이때 AI는 익명의 독자이자 편집자로서 꽤 쓸모가 있다.
완벽하고 무한한 피드백을 준다고까지 말하고 싶을 정도로, 내가 놓친 연결이나 반복을 다시 비춰주는 데는 도움을 준다.
그래서 내가 원하는 AI 자동화는 콘텐츠를 싸게 대량 생산하는 자동화가 아니다.
오히려 반복적이고 소모적인 일을 덜어내서, 내가 더 경험을 넣고 더 판단을 넣고 더 오래 생각할 수 있게 만드는 자동화다.
지금 이 글도 별거 아닌 잡념이긴 하지만 Codex로 멀티턴 에이전트를 구성해서 퇴고를 거친 글이다.
그냥 AI에게 편집을 맞겨버리니까 사실 확인이 어렵고 주관이 많이 담긴 내용은 그냥 삭제를 해버리길래 내 날것의 문장은 그대로 남기고 사실 확인이 어려운 내용은 추가 정보를 찾아서 사실관계를 확인할 수 있는 근거를 찾아오고, 주관이 담긴 문장은 오류를 검증하고 인사이트를 발견하라고 "티스토리 편집자 하네스.md"를 만들어서 편집을 돌리고 있다.

결국 AI 결과물은 사용자의 판단수준을 반영한다

AI가 인간에게 유용한가 유용하지 않은가? 우리 사회에서 이런 논지는 이미 벗어났다. 
이미 많은 조직과 개인이 AI를 전제로 일 방식을 다시 짜고 있다.
이제 중요한 건 AI의 도입여부가 아닌 어디까지를 인간의 판단으로 남길까를 고민하고 있다.
실제로 OpenAI 가이드도 민감하거나 되돌리기 어려운 고위험 작업에는 human oversight를 두라고 권한다.
결국 도구가 커질수록 더 중요해지는 건 사람의 판단 기준이다.
 
SNS에서 드라마 작가를 비판할 때 등장인물의 지능은 작가의 지능을 뛰어넘지 못한다는 식의 말을 하곤 한다.
나는 AI 결과물도 비슷하다고 생각한다. AI를 이용해서 디자인을 하고 서비스를 만들 수는 있지만,
그 결과물은 AI 쓰는 사람의 미감과 기획력을 벗어나기는 어렵다.
 
그래서 앞으로 더 중요해질 건 "딸깍" 버튼을 누르는 능력보다, 결과물의 밀도를 구별하는 능력이라고 생각한다.
AI의 결과물을 비판할 수 있는 눈이 없으면 그냥 더 빠르게 남들이 만든걸 복제하는 데 그칠 가능성이 크다.
제로 투 원이라는 책에서 피터 틸은 이런 주장을 한다. Globalization은 One To Many 이며 과잉생산, 노동착취, 환경파괴 등 지속가능하지 않은 세상을 만들지만 Technology 는 Zero To One 이며 새로운 가치를 창조하는 기술혁신이라고 한다.
난 AI가 이 두가지를 모두 해낸다고 생각한다. 인간의 지식과 전기를 쪽쪽 빨아먹고 새로운 걸 만들어 내지 못하는 그저 똑같은 내용만 복제하는 AI가 될 수도 있고, AI를 기반으로 더 쉽고 빠르게 아이디어를 발전시켜 이전에는 다다르지 못한 새로운 가치를 만들어 낼 수도 있다.

그래서 나는 이렇게 쓰고 싶다

애정하는 과학 커뮤니케이터 궤도님의 AI 관련 쇼츠를 봤을 때도 비슷한 생각을 했다.
자동차가 생겼다고 마부가 사라진 게 아니라, 빠르게 자동차 면허를 딴 마부가 다른 마부를 대체했다는 이야기.
여기에 덧붙여서 나는 이런 생각을 했다.
마차를 몰 때도 승객이 불편하지 않게 운전을 잘한 마부가 결국 자동차를 운전할 때도 경쟁력을 가질 것이다.
생각해 보면 마차를 몰 때는 말도 관리해야 하고, 비 오면 비 맞으면서 포장도 안 된 길에서 흙탕물 튀기며 달려야 했다.
그런데 운전이라는 본질만 보면 자동차가 더 편하고 빠르고 효율적이고, 마부의 노동환경도 더 나아졌다.
AI도 지금은 공포가 앞서지만, 이미 대중화가 시작됐고 사람들은 알게 모르게 AI 운전면허증을 따는 중이라고 느낀다.
 
사실 이 글도 나 자신의 FOMO에서 출발했다.
다들 AI 자동화를 말하고 있으니 나도 빨리 뭔가를 해야 할 것 같았다.
그런데 주저리주저리 생각을 굴리다 보니 오히려 정리가 됐다.
내가 정말 필요로 하는 건 더 빨리 많이 만드는 능력이 아니라, 조금 더 편하게 하던 일을 더 잘하는 작업 방식이었다.
그래서 나는 앞으로도 AI를 쓸 것이다.
다만 생각을 통째로 외주 주는 방향으로 쓰고 싶지는 않다.
내가 쓸 AI는 결국 무엇을 남기고 어떤 문장에 책임질지는 내가 쥐고 가기 위한 자동화다.