최근 대규모 언어모델(LLM)의 급부상과 함께, AI를 단순한 도구로 볼 것인지 아니면 인간의 개입 없이 작동하는 자동화 시스템으로 볼 것인지에 대한 논의가 활발합니다. 이 글은 AI를 사람이 목적에 맞게 다룰 수 있는 '도구'로 규정하며, 그 가치는 사용자의 숙련도에 따라 달라진다고 주장합니다. 예측 불가능성이나 신뢰성 문제는 도구의 품질을 평가하는 기준일 뿐, 도구 자체의 정의를 바꾸는 필수 조건은 아니라는 입장입니다.
글은 리치 히키(Rich Hickey)의 'AI는 도구가 아니다'라는 주장을 반박하며, 자동화와 도구는 양립 가능하다고 설명합니다. 컴파일러나 스프레드시트처럼 LLM도 내부 작업을 자동으로 수행하지만, 사람이 입력을 정하고 결과를 검토하며 다음 행동을 결정하는 방식으로 사용할 수 있다는 것입니다. 예를 들어, 프로그래머가 LLM에 코드 설명을 요청하고, 그 설명에 의문을 제기하며 원본 코드를 확인하고 수정안을 테스트하는 과정은 명확히 인간이 주도하는 피드백 루프입니다. 논문을 읽고 LLM으로 자신의 해석을 점검하거나 반론을 탐색하는 것 또한 지적 작업을 회피하는 것이 아니라, 오히려 전문성을 활용해 도구의 유용성을 높이는 행위입니다.
결국 AI 활용의 핵심은 '숙련된 사용'과 '충분한 이해나 감독 없이 일을 위임하는 사용' 사이의 실용적인 구분입니다. 도구는 좋은 판단뿐 아니라 잘못된 판단도 증폭할 수 있기에, LLM 역시 사용자가 방향을 정하고, 피드백을 해석하고, 실수를 발견하고 수정하는 능력이 필수적입니다. AI가 '멋대로 행동한다'는 식의 의인화된 표현은 실제 공학적 문제를 가리지만, 이를 인간적 동기를 덧붙여 해석하는 것은 경계해야 합니다. LLM이 사람의 지시를 완벽히 따르지 못한다고 해서 도구가 아니게 되는 것은 아니며, 성공적인 사용이 곧 사용자의 판단 포기를 의미하지도 않습니다.
이러한 관점은 AI 기술의 발전 속도가 인간의 인지 능력을 저하시킬 수 있다는 우려에 대한 해답을 제시합니다. 단순히 AI의 답변을 맹목적으로 받아들이기보다, 비판적 사고와 전문성을 바탕으로 AI를 활용하는 능력이 중요해진다는 의미입니다. 프롬프트 엔지니어링(prompt engineering)과 같은 특정 기술이 빠르게 진부해질 수 있지만, 무엇을 요청해야 하는지, 어떤 증거가 중요한지, 답이 언제 틀렸는지 아는 '전문성'과 '명확하게 전달하는 능력'은 여전히 핵심 역량으로 남을 것입니다. AI는 의사결정 자동화를 목표로 하지만, 인간의 사고하는 행위 자체를 대체하기보다는 이를 보조하고 확장하는 데 초점을 맞춰야 합니다.