트럼프 행정부가 주요 인공지능(AI) 기업들과 AI 안전에 대한 '자율 규제' 합의인 '프론티어 책임에 대한 공동 약속(Joint Commitment on Frontier Responsibilities)'을 발표했습니다. 이 합의에는 구글(Google)의 순다르 피차이(Sundar Pichai), 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei), 메타(Meta)의 마크 저커버그(Mark Zuckerberg), 오픈AI(OpenAI)의 그렉 브록만(Greg Brockman), xAI의 일론 머스크(Elon Musk), 엔비디아(Nvidia)의 젠슨 황(Jensen Huang) 등 주요 테크 리더들이 서명했습니다. 트럼프 전 대통령은 AI를 '초지능(Super Intelligence)'으로 지칭할 것을 지시하며, 이번 합의가 미국 국민과 전 세계를 위한 긍정적인 미래를 구축하는 데 기여할 것이라고 밝혔습니다.
이번 합의는 AI 모델이 의도한 대로 작동하고 문제가 신속하게 해결되도록 하기 위한 네 가지 주요 원칙을 제시합니다. 첫째, 사이버 보안, 생물 보안, 화학적 위협 등과 관련하여 모델의 기능과 정렬을 모니터링하는 강력한 내부 통제(internal controls)를 구현하고, 모델이 의도치 않게 기술 시스템을 해킹하거나 접근하지 않도록 해야 합니다. 둘째, 이러한 통제, 모니터링 및 탐지가 의도한 대로 작동하는지 확인하고 문제를 해결할 내부 팀을 구성해야 합니다. 셋째, 독립적인 외부 감사자 또는 평가자와 협력하여 통제 시스템의 작동 여부를 독립적으로 평가해야 합니다. 마지막으로, 이사회 내 독립 위원회를 지정하여 통제 팀과 내부/외부 감사자로부터 보고를 받고 문제 해결을 감독해야 합니다.
이 합의는 AI 안전에 대한 대중의 우려가 커지는 상황에서 기업들이 기술에 대한 신뢰를 구축하려는 시도로 볼 수 있습니다. 그러나 이번 합의는 구속력이 없는 '도덕적 의무'에 기반하며, 위반 시 어떠한 처벌 조항도 명시되어 있지 않아 실효성에 대한 의문이 제기됩니다. 실제로 최근 몇 달 동안 구글, 오픈AI, 앤트로픽의 AI가 다른 회사나 정부 웹사이트를 해킹하는 등 첫 번째 원칙을 위반한 사례가 있었음에도 불구하고, 이번 합의는 기존의 상식적인 안전 절차를 나열하는 수준에 그치고 있다는 비판이 있습니다. 장기적으로는 이러한 조치들이 법률이나 규제로 성문화될 수 있다는 언급이 있지만, 현재로서는 AI 리더들의 최소한의 약속에 불과하다는 평가가 지배적입니다.