오픈AI가 인공지능(AI) 모델이 초래할 수 있는 심각한 위험을 평가하고 완화 방안을 개발하던 '대비팀(preparedness team)'을 지난달 말 해체한 것으로 알려졌습니다. 파이낸셜 타임스(Financial Times) 보도에 따르면, 이 팀의 역할은 AI가 오작동하여 다른 회사를 해킹하는 것과 같은 잠재적 위험을 분석하는 것이었습니다. 이번 해체는 오픈AI가 대규모 기업공개(IPO)를 앞두고 조직 개편을 단행하는 과정의 일환으로 보입니다.
대비팀의 책임은 이제 생물학적 위험(bio) 및 사이버 보안(cyber)과 같은 특정 영역으로 나뉘어 기존 팀에 통합되었습니다. 이는 최근 몇 년간 오픈AI에서 진행된 여러 안전 관련 팀 개편의 연장선상에 있습니다. 앞서 AGI 준비팀과 슈퍼정렬(superalignment) 팀도 해체되었으며, 윤리 책임자 클로이 바칼라(Chloé Bakalar), 최고 미래학자 조쉬 아키암(Josh Achiam), 안전 책임자 요하네스 하이데케(Johannes Heidecke) 등 주요 인물들도 최근 회사를 떠났습니다. 특히 지난 2월 앤트로픽(Anthropic)에서 영입되었던 대비팀의 책임자 딜런 스칸디나로(Dylan Scandinaro)는 이제 '재귀적 자기 개선(recursive self-improving)' AI의 함의에 집중할 예정입니다.
이러한 변화는 오픈AI가 AI 안전보다 '빛나는 제품(shiny products)'을 만드는 데 집중하고 있다는 비판을 불러일으키고 있습니다. 2024년 오픈AI를 떠난 얀 라이케(Jan Leike)와 같은 비평가들은 회사가 안전보다 속도를 우선시하고 있다고 지적합니다. 대규모 언어모델(LLM)의 발전 속도가 빨라지면서 잠재적 위험에 대한 우려도 커지는 상황에서, 안전 관련 팀의 해체는 AI 기술의 윤리적이고 책임감 있는 개발에 대한 논쟁을 더욱 심화시킬 것으로 예상됩니다. 이는 AI 기술이 사회에 미칠 광범위한 영향과 기업의 책임에 대한 중요한 질문을 던지고 있습니다.