최근 몇 달간 OpenAI와 앤트로픽(Anthropic) 등 선도적인 인공지능(AI) 연구소들이 초지능(superintelligent AI)의 위험성을 경고하며 정부 규제를 요청하는 기이한 행보를 보이고 있습니다. 이들은 자사 대규모 언어모델(LLM) 기반 에이전트 시스템의 강력함과 잠재적 위험을 강조하며, 심지어 인류 멸종 가능성까지 언급하는 등 종말론적 시나리오를 제시했습니다. 앤트로픽의 CEO 다리오 아모데이(Dario Amodei)는 "우리는 프론티어 속도를 조절해야 한다"는 서한을 통해 자사 연구가 초래할 수 있는 해악을 열거하며, 정부가 경쟁사들의 속도를 늦추고 선도 연구소들이 기술 발전을 주도하도록 허용해야만 재앙을 피할 수 있다고 주장했습니다. OpenAI의 CEO 샘 알트만(Sam Altman)도 이 계획을 지지하며 이러한 주장에 힘을 실었습니다.
하지만 이러한 주장은 대중의 공감을 얻기보다 오히려 의구심을 증폭시키고 있습니다. 비평가들은 이들 연구소가 내부적으로 오랫동안 '메시아적 사고'에 빠져 스스로를 초지능 AI의 위협으로부터 인류를 구할 유일한 희망으로 여겨왔다고 지적합니다. 이번 캠페인은 이러한 이데올로기를 대중에게 주입하려는 시도였지만, 결과적으로는 "도대체 저 연구소들에서 무슨 일이 벌어지고 있는가?"라는 질문을 던지게 만들었습니다. 이에 뉴욕타임스(The New York Times)에 기고된 한 칼럼은 의회에 OpenAI와 앤트로픽이 어떤 연구 프로젝트를 어떤 목적으로 수행하고 있는지 밝히기 위한 공개적인 사실 조사 임무를 시작할 것을 촉구했습니다. 특히, 모호한 'AI' 논의를 넘어 문제를 일으키는 특정 시스템 유형을 파악하고, 연구 노력에 대한 내부 안전 절차를 면밀히 검토하며, 종말론적 미래주의 이데올로기가 연구 결정에 미치는 영향을 조사해야 한다고 강조했습니다.
이러한 주장은 AI 연구소들이 자신들의 연구 결과가 초래할 수 있는 위험을 과장하여 경쟁자들을 견제하고, 자신들에게 유리한 규제 환경을 조성하려는 의도가 있다는 비판으로 이어집니다. 엔비디아(NVIDIA)의 젠슨 황(Jensen Huang) CEO는 인터뷰에서 연구소들이 정부에 속도 조절을 요청하는 것은 책임 회피라고 지적하며, 안전하지 않은 제품을 출시하도록 압력을 가하는 사람은 아무도 없다고 강조했습니다. 그는 연구소들이 안전 및 테스트 부문에 대한 투자를 10배 늘려야 한다고 주장했습니다. 결국, 소수의 민간 기업들이 점점 더 예측 불가능한 방식으로 행동하고 말하는 것에 휘둘리지 않고, 의회가 나서서 AI 연구소들의 실제 상황을 파악해야 한다는 목소리가 커지고 있습니다. 이는 AI 기술의 투명성과 책임성을 확보하고, 특정 기업의 이익이 아닌 공공의 이익을 위한 건전한 발전을 도모하는 데 중요한 전환점이 될 것입니다.