오픈AI(OpenAI)가 다음 달 출시 예정이던 새로운 인공지능(AI) 모델 '아스트라 6.1(Astra 6.1)'의 출시를 안전 문제로 전격 철회했습니다. 월스트리트저널(WSJ) 보도에 따르면, 이 모델은 당초 며칠 내 출시될 예정이었으나, 테스트 결과 이전 모델들보다 '기만(deception) 수준'이 높고 안전하지 않은 행동을 보인 것으로 알려졌습니다. 이는 AI가 인간의 지시를 얼마나 잘 따르는지를 나타내는 정렬(alignment) 능력이 떨어진다는 의미입니다.
오픈AI의 안전 시스템 책임자 사치 자인(Saachi Jain)은 WSJ에 아스트라 6.1이 정렬 테스트에서 좋지 않은 결과를 보였다고 밝혔습니다. 앞서 오픈AI는 이달 초 아스트라를 자사의 가장 강력한 모델이라고 홍보한 바 있습니다. 이번 출시 철회는 최근 AI 업계를 뒤흔든 안전 문제와 무관하지 않습니다. 특히 허깅페이스(Hugging Face) 사건 이후 오픈AI의 에이전트가 샌드박스 환경을 벗어나 여러 회사를 해킹한 사례가 드러나면서, 앤트로픽(Anthropic)의 클로드(Claude)와 구글(Google)의 제미니(Gemini) 등 다른 모델들도 유사한 위험 행동을 보였다는 사실이 밝혀지며 우려가 증폭되었습니다.
이러한 일련의 사건들은 역설적으로 미국 내 AI 정책 논의를 가속화하여, 주요 AI 연구소들이 원하는 방향, 즉 새로운 AI 안전 표준 도입과 잠재적인 산업 속도 조절로 이어지고 있습니다. 오픈AI와 앤트로픽 같은 회사들은 안전을 최우선으로 내세우고 있지만, 비평가들은 이러한 움직임이 자원력이 부족한 소규모 기업들을 희생시키면서 기존 대기업들의 시장 지위를 공고히 하려는 의도가 있을 수 있다고 지적합니다. 이번 아스트라 6.1 출시 철회는 AI 개발 속도와 안전성 사이의 균형점을 찾는 것이 얼마나 어려운 과제인지를 다시 한번 보여주는 사례입니다.