앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)가 최근 AI 개발 속도를 늦추고 오픈 웨이트(Open Weight) 모델 규제 및 선도 AI 연구소에 대한 독점금지법 예외를 요구했습니다. 그는 AI가 향후 5~10년 안에 질병 치료와 경제 성장을 이끌 것이라는 장밋빛 전망을 내놓으며, 위험한 AI 개발 경쟁을 막고 안전을 확보해야 한다고 주장했습니다. 그러나 이러한 제안은 안전을 명분으로 소수 선두 기업의 시장 지배력을 공고히 하려는 의도가 아니냐는 비판에 직면했습니다.
아모데이 CEO는 개인적인 경험을 바탕으로 AI의 질병 치료 잠재력을 강조했지만, 정작 미국 내 주요 AI 연구소들은 최근 보안 사고를 일으키면서도 자신들만 믿으라고 요구하는 모순적인 상황입니다. 특히 오픈AI(OpenAI)는 최근 공개 인터넷 인프라 침입 사건에 연루되었고, 앤트로픽 역시 유사한 내부 사고를 인정했습니다. 이러한 상황에서 이들 기업이 요구하는 오픈 웨이트 규제, 강력한 증류 단속, 중국 견제, 그리고 사실상의 자율 규제는 안전을 위한 필수 조치라기보다는 선두 기업의 지위를 보호하는 특혜로 해석될 여지가 큽니다. 비판론자들은 기업의 허락 없이도 모델을 시험하고 문제를 공개할 수 있는 '오픈 웨이트 모델'의 중요성을 강조하며, 위험을 이유로 공개 기술을 제한하는 논리가 과거 암호 기술 통제 시도와 유사하다고 지적합니다.
이번 논란은 AI 기술 발전의 방향성과 사회적 책임에 대한 근본적인 질문을 던집니다. AI가 가져올 수 있는 풍요와 민주주의의 부흥을 약속하면서도, 그 혜택이 특정 기업이나 주주에게만 집중될 수 있다는 우려가 제기됩니다. 이미 치료법이 있는 질병으로도 수많은 사람이 사망하는 현실에서, 더 강력한 AI가 등장한다고 해서 분배 문제가 저절로 해결될 것이라는 주장은 설득력이 부족합니다. 또한, AI 기업의 성공이 어떻게 자유와 민주주의로 이어지는지 불분명하며, 경제적 혼란과 실업 문제에 대한 명확한 해법 없이 안전만을 내세우는 것은 일관성이 부족하다는 지적도 나옵니다. 결국, AI의 안전과 발전을 위해서는 기업의 자율 규제보다는 독립적인 외부 평가와 책임 추궁이 가능한 투명한 시스템이 필요하다는 목소리가 커지고 있습니다.