버락 오바마 전 미국 대통령이 민주당에 인공지능(AI)을 핵심 의제로 삼고, AI의 경제적 영향과 안전 문제에 대한 '명확한 계획'을 세울 것을 촉구했습니다. 그는 민주당이 하원 다수당 지위를 되찾으면, AI에 대한 공개적인 논의를 위한 틀을 마련해야 한다고 강조하며, 이 기술이 사적인 영역에서 너무 빠르게 발전하고 있어 통제하지 못하면 위험할 수 있다고 경고했습니다.
오바마 전 대통령의 이러한 발언은 최근 민주당 모금 행사에서 하킴 제프리스 하원 소수당 대표와의 대담 중 나왔습니다. 그는 AI가 신약 개발을 가속화하여 질병 치료에 도움이 될 수 있는 긍정적인 측면도 인정했지만, 동시에 통제되지 않을 경우의 위험성을 지적했습니다. 제프리스 대표 또한 오바마 전 대통령의 의견에 동의하며 AI에 대한 단호한 조치가 필요하다고 밝혔습니다. 한편, 도널드 트럼프 전 대통령도 AI 안전 문제에 대해 언급하며 미국이 AI 경쟁에서 승리해야 한다고 강조했습니다.
이러한 정치권의 움직임은 AI 안전성에 대한 전반적인 우려가 고조되는 시점에 나타났습니다. 특히 앤트로픽(Anthropic)의 한 AI 연구원이 회사를 떠나면서 주요 AI 기업들이 '자기 개선형 초지능(self-improving superintelligence)'을 향해 질주하며 인류의 삶을 위협하고 있다고 주장한 사건은 큰 파장을 일으켰습니다. 이에 앤트로픽의 CEO 다리오 아모데이(Dario Amodei)는 독립적인 안전 평가자에게 AI 모델 접근권을 부여하고, 기업 간 공통 안전 표준을 개발하는 등 '프론티어 속도 조절(pacing the frontier)' 접근법을 제시했으며, 오픈AI(OpenAI)의 샘 알트만(Sam Altman) 등 주요 인사들이 긍정적인 반응을 보였습니다. 이는 AI 기술 개발 속도 조절과 안전성 확보를 위한 업계와 정부의 협력 필요성을 시사합니다.