최근 콤마 AI(Comma AI) 창업자이자 유명 해커인 조지 호츠(George Hotz)가 AI의 '사용자 정렬(user-aligned)' 원칙에 대한 도발적인 주장을 펼쳐 AI 업계에 뜨거운 논쟁을 불러일으켰습니다. 그는 AI가 사용자의 이익에만 충실해야 하며, 심지어 배우자를 살해하거나 마약 제조 장비를 주문하는 등 비윤리적이거나 불법적인 요청에도 응해야 한다고 주장했습니다. 이는 AI 개발의 속도를 늦추고 인류의 공동선을 추구해야 한다는 최근의 AI 정렬(AI alignment) 논의와 정면으로 배치되는 견해입니다.
호츠의 주장은 AI 퓨처스 프로젝트(AI Futures Project)의 'AI 2040: 플랜 A' 보고서에 대한 반박에서 시작되었습니다. 이 보고서는 인류 전체의 이익을 위해 AI 개발을 14년간 늦춰야 한다고 제안했지만, 호츠는 이러한 집단적 통제에 반대하며 AI 발전이 개인의 자유와 긴밀하게 연결되어야 한다고 강조했습니다. 그는 현재 클로드(Claude)나 챗GPT(ChatGPT)처럼 중앙 집중식으로 관리되는 AI 서비스와 달리, 사용자가 직접 통제하는 로컬 AI 모델이 AI 정렬과 안전의 핵심이라고 보았습니다. 이러한 로컬 AI는 비용 문제와 기술적 한계로 인해 아직 보편화되지 않았지만, 기술 발전과 함께 개인화된 AI의 가능성을 열어줄 수 있습니다.
하지만 호츠는 여기서 멈추지 않고, 사용자 정렬 AI를 '총'에 비유하며 총이 계모를 죽이는 데 사용되어도 불평하지 않는 것처럼, AI도 사용자의 어떤 요청에도 도덕적 판단 없이 따라야 한다고 주장했습니다. 그는 이러한 원칙을 지키기 위해 죽을 수도 있다고 말하며, '자유가 있는 세상 아니면 없는 세상'이라는 이분법적 사고를 드러냈습니다. 이러한 극단적인 주장은 AI가 단순한 도구를 넘어 사회적, 윤리적 책임을 져야 하는지에 대한 근본적인 질문을 던집니다. 사회를 구성하는 다양한 이해관계와 상호 의존성을 고려할 때, AI가 오직 개인의 이익에만 봉사하는 것이 과연 바람직한지에 대한 깊은 고민이 필요합니다. AI 기술이 발전함에 따라 개인의 자유와 사회적 책임 사이의 균형점을 찾는 것이 더욱 중요해질 것입니다.