LLM(대규모 언어모델)을 둘러싼 비판은 타당합니다. 저작권 침해, 막대한 환경 부담, 윤리적 문제, 그리고 저품질 결과물(slop) 양산 가능성까지, 많은 전문가들이 이러한 문제들을 지적하고 있습니다. 오픈소스 생태계의 신뢰 붕괴와 주니어 개발자 육성 약화, 심지어 특정 국가 기술에 대한 지정학적 종속 우려까지 제기됩니다. 하지만 아이러니하게도, 이러한 비판에 동의하는 이들조차도 LLM을 업무에 적극적으로 활용하고 있습니다.
이러한 현상은 베를린의 Local-First Conf에서도 드러났습니다. LLM을 비판하는 발표에 큰 박수가 쏟아지는 동시에, 청중 대다수는 클로드 코드(Claude Code)를 열어둔 채 작업하고 있었습니다. 이는 LLM이 기존의 생각, 의견, 구조를 증폭시키는 도구로서 강력한 효용을 지니기 때문입니다. 사람의 명확한 판단과 책임이 동반되지 않으면 유창한 '쓰레기'를 대량 생산할 수 있지만, 충분한 사고와 책임감을 가지고 사용하면 더 적고 더 나은 결과물을 만드는 데 도움을 줍니다. 결국 외부에서는 사람이 실제로 고민했는지 확인하기 어렵기에, 결과물의 가치는 신뢰와 평판에 좌우되며, 공개적으로 한 글자도 부끄럽지 않게 읽을 수 있는지가 AI slop을 가르는 기준이 됩니다.
LLM의 동조성과 환각(hallucination)이라는 약점을 역이용하는 방법도 제시됩니다. 예를 들어, '그릴 미(/grill-me)' 기법은 LLM이 실제 문제를 이해했는지 집요하게 질문하고 의사결정 과정을 검토하게 하여 공동 이해를 강제합니다. 또한, 베이스캠프(Basecamp)의 '피치(Pitch)'처럼 문제, 제공할 것, 제공하지 않을 것을 세 문장으로 제한하는 짧은 명세는 LLM이 채우기 쉽지만, 좋은 세 문장을 만드는 것은 인간의 깊은 사고를 요구합니다. 코딩 워크플로에 비판 역할의 소형 에이전트를 배치해 LLM이 생성한 텍스트, 계획, 코드를 공격적으로 검토하게 하여 결함을 찾고, 더 이상 실제 문제를 찾지 못해 문제를 '환각'할 때까지 반복하는 '랄프 위검 루프(Ralph Wiggum loop)' 같은 방식도 활용됩니다. 이는 LLM의 약점을 오히려 검증 신호로 활용하는 창의적인 접근입니다.
이러한 활용 패턴의 핵심 전제는 사용자가 결과물의 품질을 판별할 수 있는 전문성을 갖춰야 한다는 것입니다. 익숙하지 않은 분야에서 LLM을 사용하면 대규모의 저품질 결과물 생산으로 이어질 수 있습니다. 또한, 엔비디아(NVIDIA)와 오픈AI(OpenAI) 등 소수 기업에 집중된 현재의 LLM 생태계는 지정학적 종속 문제를 야기할 수 있으며, 거품 붕괴 시 큰 타격을 줄 수 있습니다. 이에 대한 대안으로 로컬 모델(local model)과 오픈 웨이트(open weight) 모델의 중요성이 강조됩니다. 노트북에서 실행되는 로컬 모델은 대형 기업에 대한 의존에서 벗어나게 하고, 오픈 웨이트 모델은 대형 공급자의 가격과 영향력을 견제하며, AI 거품 붕괴 이후에도 프로그래머가 사용할 수 있는 대안으로 남을 것입니다.
결론적으로, LLM은 사고 과정을 지원할 수 있지만 생각 자체를 대체하지는 못합니다. 인간의 생각은 외주화할 수 없으며, AI slop과 좋은 글의 차이는 그 뒤에 인간의 생각이 존재하는지에 달려 있습니다. LLM 시대에는 신뢰를 얻기 어렵고 잃기 쉬우므로, 결과물에 대한 인간의 책임감과 전문성이 그 어느 때보다 중요해집니다. LLM을 비판적으로 수용하고, 그 한계를 인지하며, 인간의 판단력을 증폭하는 도구로 현명하게 활용하는 것이 핵심입니다.