인공지능(AI) 기술이 전례 없는 속도로 발전하면서 유럽 전역에서 규제에 대한 불안감이 고조되고 있습니다. 세계 유수의 AI 기업 경영진과 연구자들은 자신들의 기술 발전 속도가 정부의 규제 준비 태세를 훨씬 앞지르고 있다고 경고하고 있습니다. 이들은 AI가 사회에 미칠 잠재적 위험에 대해 공개적으로 우려를 표명하며, 정책 입안자들이 기술 변화의 속도를 따라잡지 못하고 있다는 지적이 나옵니다.
최근 몇 주 동안, 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO는 자사 AI 모델 클로드 3.5 소네트(Claude 3.5 Sonnet)가 “인간 수준”에 도달했다고 언급하며, AI 시스템이 스스로 목표를 설정하고 달성하는 ‘AI 에이전트(AI agents)’의 등장 가능성을 시사했습니다. 또한, 딥마인드(DeepMind) 공동 창업자인 무스타파 술레이만(Mustafa Suleyman)은 AI가 “통제 불능의 힘”이 될 수 있다고 경고했습니다. 이러한 발언들은 유럽 정책 입안자들에게 AI 기술의 급진적 발전이 가져올 사회적, 윤리적 문제에 대한 심각한 질문을 던지고 있습니다. 유럽연합(EU)은 AI 법(AI Act)을 통해 AI 시스템을 위험 수준에 따라 분류하고 규제하려 하지만, AI 에이전트와 같은 새로운 형태의 AI는 기존 프레임워크로 포괄하기 어렵다는 의견이 지배적입니다. 특히, AI 에이전트는 스스로 학습하고 의사결정을 내릴 수 있어, 그 행동을 예측하고 통제하기가 더욱 복잡합니다.
이러한 상황은 AI 기술이 사회에 미칠 광범위한 영향과 규제 당국의 대응 능력 간의 격차를 명확히 보여줍니다. 규제 전문가들은 AI 법이 AI 에이전트의 자율성과 예측 불가능성을 충분히 다루지 못하고 있다고 지적합니다. AI 에이전트가 복잡한 작업을 수행하고 심지어 다른 AI 시스템을 생성할 수 있는 능력을 갖추게 되면, 기존의 안전 및 책임 프레임워크로는 통제하기 어려워질 수 있습니다. 이는 AI 기술의 잠재적 이점과 함께 심각한 위험을 동시에 내포하고 있음을 의미하며, 정책 입안자들이 기술 발전의 속도에 맞춰 유연하고 선제적인 규제 방안을 마련해야 할 시급한 과제를 안고 있음을 시사합니다.