오픈AI(OpenAI)의 안전 연구원 야니크 구스타프손(Yannick Gustafson)이 회사를 떠나며 오픈AI의 안전 문화에 대한 강도 높은 비판을 제기했습니다. 그는 자신의 소셜 미디어 게시물을 통해 오픈AI가 안전보다 제품 출시를 우선시하고 있으며, 내부적으로 안전 관련 우려가 제대로 다뤄지지 않는 '망가진 문화'를 가지고 있다고 밝혔습니다. 이는 최근 오픈AI의 안전팀 해체 및 핵심 인사 이탈과 맞물려 AI 안전에 대한 논란을 더욱 증폭시키고 있습니다.
구스타프손은 오픈AI에서 2년 넘게 근무하며 AI 모델의 오용 가능성을 연구하는 데 집중했습니다. 그는 사임 성명에서 오픈AI가 AI 안전에 대한 진지한 논의를 회피하고, 내부 비판을 억압하는 경향이 있다고 주장했습니다. 특히, 회사가 AI 모델의 위험성을 충분히 평가하지 않은 채 새로운 제품을 서둘러 출시하려는 압력이 강하다고 지적했습니다. 이러한 주장은 앞서 오픈AI의 공동 창업자이자 수석 과학자였던 일리야 수츠케버(Ilya Sutskever)와 안전팀 리더 얀 라이케(Jan Leike)가 회사를 떠나며 AI 안전에 대한 우려를 표명했던 것과 맥락을 같이 합니다.
이번 내부 고발은 AI 기술의 급속한 발전과 함께 안전성 확보의 중요성이 커지는 시점에서 나왔다는 점에서 의미가 큽니다. 오픈AI는 인공일반지능(AGI) 개발을 목표로 하는 선두 기업인 만큼, 그들의 안전 문화와 정책은 전체 AI 산업에 큰 영향을 미칠 수 있습니다. 구스타프손의 폭로는 AI 개발 기업들이 기술 혁신과 안전성 사이에서 균형을 어떻게 찾아야 할지에 대한 근본적인 질문을 던지며, 규제 당국과 대중의 감시를 더욱 강화하는 계기가 될 것으로 보입니다.