최근 인공지능(AI) 기술이 전례 없는 속도로 발전하면서, 그 잠재적 위험에 대한 경고의 목소리도 커지고 있습니다. 오픈AI(OpenAI)의 샘 올트먼(Sam Altman) CEO를 비롯한 많은 AI 연구자들이 AI 개발 속도 조절의 필요성을 언급하는 가운데, 앤트로픽(Anthropic)의 CEO 다리오 아모데이(Dario Amodei)가 이른바 '프론티어 속도 조절(pace the frontier)'을 위한 구체적인 세 가지 전략을 제시했습니다. 특히 앤트로픽은 이 중 한 가지 방안에 대해 일방적으로 참여하겠다고 선언하며 AI 안전성 논의에 새로운 불씨를 지폈습니다.
아모데이 CEO는 최근 오픈AI-허깅페이스(HuggingFace) 해킹 사건과 AI가 스스로 다음 세대 AI를 구축할 수 있는 능력이 급격히 향상되고 있다는 점을 들어, AI 모델의 역량 개선 속도를 늦춰야 한다고 강조했습니다. 그가 제안한 첫 번째 방안은 METR과 같은 제3자 기관의 '외부 평가자(embedded evaluators)'를 AI 기업 내부에 상주시켜 안전성 약속 이행 여부를 검증하고 사고 보고를 의무화하는 것입니다. 앤트로픽은 은행에 상주하는 규제 당국처럼 평가자들에게 회사 배지, 책상, 노트북을 제공하고 내부 위험 평가팀과 유사한 수준의 접근 권한을 부여하는 이 방안에 대해 선제적으로 참여하겠다고 밝혔습니다. 두 번째는 민주주의 국가 내 주요 AI 기업들이 공동 안전 표준과 무분별한 AI 발전 속도 제한을 조율하는 것이며, 미국 정부의 중재를 통해 독점 금지 문제(antitrust scrutiny)를 해결할 수 있다고 제안했습니다. 마지막으로, 미국과 동맹국들이 중국 등 권위주의 정부와 AI의 생물학 무기 활용 금지와 같은 특정 위험한 용도에 대한 글로벌 협력을 모색해야 한다고 주장했습니다.
이번 아모데이 CEO의 제안은 AI 안전성 논란이 고조되는 시점에서 나왔다는 점에서 큰 의미를 가집니다. 일각에서는 그의 주장이 AI 기술의 발전을 저해하고 특정 기업에 유리한 규제 환경을 조성할 수 있다는 비판도 제기되지만, AI 기술에 대한 대중의 신뢰 위기(crisis of trust)를 해소하고 장기적인 관점에서 AI의 긍정적인 잠재력을 실현하기 위한 중요한 시도로 평가할 수 있습니다. 특히 앤트로픽이 선제적으로 외부 평가자 수용을 약속한 것은 AI 기업들이 자율적으로 안전성 확보에 나서야 한다는 압박으로 작용할 수 있으며, 향후 AI 규제 논의의 방향을 제시하는 중요한 이정표가 될 것으로 보입니다.