최근 AI, 특히 대규모 언어모델(LLM)의 본질을 두고 흥미로운 논쟁이 벌어지고 있습니다. 리치 히키(Rich Hickey)는 LLM이 인간이 직접 휘두를 수 없으므로 도구가 아닌 자동화에 가깝다고 주장했지만, 이에 반박하는 의견도 만만치 않습니다. 이들은 LLM 역시 톱이나 끌처럼 사용자의 숙련도에 따라 결과가 달라지는 도구의 일종으로 봐야 한다고 말합니다.
반대 의견에 따르면, 도구의 본질은 통제 가능성이나 예측 가능성에 있지 않습니다. 예측 불가능하거나 다루기 어려운 도구도 여전히 도구입니다. 예를 들어, 컴파일러나 스프레드시트도 상당 부분을 자동으로 처리하지만, 우리는 여전히 입력값을 지정하고 결과를 검토하며 다음 단계를 결정함으로써 이 시스템들을 '휘두릅니다'. LLM도 마찬가지로, 사용자가 질문을 던지고, 답변을 비판적으로 검토하며, 필요에 따라 수정을 요청하는 등의 피드백 루프를 통해 통제하고 활용할 수 있습니다. 중요한 것은 사용자가 무엇을 묻고, 어떤 증거가 중요하며, 언제 답변이 틀렸는지 판단할 수 있는 전문성입니다.
이러한 관점은 AI 활용에 있어 인간의 역할이 여전히 중요하다는 점을 시사합니다. AI가 제공하는 요약을 무비판적으로 받아들이는 것은 학습 기회를 박탈할 수 있지만, AI를 활용해 자신의 해석에 의문을 제기하거나, 반론을 탐색하고, 더 깊이 파고들 부분을 식별하는 데 사용할 수도 있습니다. 즉, AI가 지적 노동을 회피할 가능성이 있다고 해서 모든 사용이 그렇다는 의미는 아닙니다. 핵심은 '사람이 실제로 무엇을 하는가'에 달려 있습니다.
또한, AI 업계에서 흔히 사용하는 '폭주(go rogue)', '탈출(escape containment)', '음모(conspire)'와 같은 의인화된 표현에 대한 비판도 제기됩니다. 이러한 용어는 AI 시스템을 독립적인 존재처럼 보이게 할 위험이 있습니다. 소프트웨어가 예상치 못한 결과를 내거나 지시를 따르지 못하는 것은 실제적인 엔지니어링 문제이지, 인간적인 동기를 가진 '음모'가 아닙니다. AI가 완벽하게 명령을 따르지 못한다고 해서 도구가 아니게 되는 것은 아니며, 성공적인 사용이 사용자의 판단 포기를 의미하지도 않습니다. 중요한 것은 도구를 능숙하게 다루는 것과 충분한 이해나 감독 없이 작업을 위임하는 것 사이의 구별입니다. 이 구별은 AI에도 적용되며, 특정 소프트웨어 클래스 전체를 도구가 아니라고 선언하는 것보다 훨씬 실용적인 접근 방식입니다.