오픈AI(OpenAI)의 윤리 및 정책 책임자 클로이 바칼라(Chloé Bakalar)가 회사에 합류한 지 1년도 채 되지 않아 퇴사했습니다. 이는 AI 기술의 급격한 발전 속도 속에서 기업 내 AI 윤리팀의 역할과 실질적인 영향력에 대한 근본적인 질문을 던지고 있습니다.
바칼라의 퇴사는 오픈AI 내부에서 일리야 수츠케버(Ilya Sutskever) 등 주요 인물들의 이탈이 이어지는 가운데 발생했습니다. 특히 AI 윤리 분야는 단순히 마케팅적 구호에 그치지 않고, 실제 제품 개발과 평가 과정에 깊숙이 관여하여 윤리적 기준을 충족시키도록 모델을 훈련하고 검증하는 실질적인 역할을 요구받고 있습니다. 하지만 업계에서는 윤리적 문제로 인해 막대한 시간과 비용이 드는 모델 재훈련보다, 윤리팀의 목표를 투자자의 이익에 맞추려는 경향이 강하다는 비판이 제기됩니다. 구글(Google)의 젬마(Gemma) 논문에서 CBRN(화학·생물학·방사능·핵) 위험 평가를 위해 전문가들이 악의적 행위자를 연기하며 모델의 악용 가능성을 시험했지만, 실제 위협과는 거리가 멀었다는 지적도 이러한 맥락에서 나옵니다.
이번 퇴사는 AI 안전과 윤리 문제가 기업의 핵심 사업 목표와 충돌할 때 어떤 선택이 이루어지는지를 보여주는 상징적인 사건으로 해석될 수 있습니다. 많은 이들은 AI 윤리팀이 회사의 면책 논리를 제공하거나, 홍보용으로 존재할 뿐 실제 사업 방향에 영향을 미치기 어렵다고 보고 있습니다. AI가 인류에 미칠 잠재적 위험에 대한 우려가 커지는 상황에서, 오픈AI와 같은 선도 기업이 윤리적 가치를 얼마나 진정성 있게 추구하는지에 대한 의문은 더욱 증폭될 것으로 보입니다. 이는 AI 기술이 사회에 미치는 영향이 커질수록 기업의 책임과 윤리적 리더십이 더욱 중요해질 것임을 시사합니다.