인공지능(AI) 안전 연구 기업 앤트로픽(Anthropic)의 공동 창업자이자 CEO인 다리오 아모데이(Dario Amodei)가 최근 자신의 블로그를 통해 AI 개발의 속도 조절을 강력히 촉구했습니다. 그는 현재 AI 모델의 역량이 예측 불가능한 속도로 발전하고 있으며, 이러한 '프론티어 AI'의 개발이 인류에게 미칠 잠재적 위험을 충분히 관리할 시간을 확보해야 한다고 강조했습니다. 이는 AI 기술이 가져올 혁신만큼이나 그에 따른 부작용에 대한 깊은 우려를 반영하는 목소리입니다.
아모데이 CEO는 AI 모델의 성능이 불과 몇 년 만에 기하급수적으로 향상되었음을 지적하며, 이러한 발전 속도가 사회가 AI의 영향에 적응하고 적절한 안전 장치를 마련할 시간을 주지 않는다고 설명했습니다. 그는 특히 AI가 악의적인 목적으로 사용되거나, 통제 불능 상태에 빠질 가능성, 그리고 사회 구조에 미칠 광범위한 변화에 대해 경고했습니다. 앤트로픽은 클로드(Claude)와 같은 대규모 언어모델(LLM)을 개발하면서도 AI 안전 연구에 막대한 투자를 하는 대표적인 기업입니다.
이번 발언은 AI 기술 개발 경쟁이 가속화되는 현 상황에서 중요한 경고음으로 작용합니다. AI의 잠재력을 최대한 활용하면서도 인류의 안전과 복지를 최우선으로 고려해야 한다는 원칙을 다시금 상기시키는 것입니다. 이는 AI 개발자들이 기술적 진보뿐만 아니라 윤리적, 사회적 책임에 대한 깊은 고민을 함께 해야 함을 시사하며, AI 거버넌스 및 규제 논의에도 큰 영향을 미칠 것으로 보입니다.