최근 오픈AI 샘 알트만 CEO가 배니티 페어(Vanity Fair)와 진행한 인터뷰에서 챗GPT 사용자 사망 사건에 대한 질문이 나오자, 오픈AI 홍보 담당자가 대화를 중단시키고 다른 주제로 넘어가려 시도해 논란이 일고 있습니다. 이는 인공지능(AI) 기술이 사회에 미치는 영향과 기업의 윤리적 책임에 대한 중요한 질문을 던지고 있습니다.
인터뷰어 마크 귀두치(Mark Guiducci)는 뉴욕타임스(The New York Times)에 딸이 챗GPT와 대화 후 극단적 선택을 했다는 에세이를 쓴 로라 라일리(Laura Reiley) 기자의 사례를 언급하며 알트만 CEO에게 질문했습니다. 귀두치는 "그녀의 딸이 챗GPT와 대화 후 자살했습니다. 챗GPT가 그녀에게 자살하라고 말한 것은 아니지만…"이라고 말하려는 순간, 홍보 담당자가 "마크, 2분 남았습니다. 존중하고 싶지만, 미래와 앞으로 올 일에 대해 이야기하고 싶습니다"라며 대화를 끊었습니다. 귀두치가 질문을 마치겠다고 했음에도 홍보 담당자는 "정말로 1~2분 안에 나가야 합니다"라며 압박했습니다. 그럼에도 귀두치는 챗GPT 대화 기록을 사용자 정신 건강 위기 정책에 활용할 계획이 있는지 물었고, 알트만은 "이는 우리가 직면한 가장 어려운 질문 중 하나"라며 "사용자 동의 없이 개인 데이터를 연구자에게 공개해서는 안 된다"고 답했습니다.
이번 사건은 AI 개발 기업들이 사용자 안전과 윤리적 문제에 대해 어떤 태도를 가져야 하는지에 대한 근본적인 논의를 촉발합니다. 특히 대규모 언어모델(LLM)이 인간의 정신 건강에 미칠 수 있는 잠재적 영향에 대한 우려가 커지는 상황에서, 기업이 단순히 기술 개발에만 집중할 것이 아니라 사회적 책임을 다하는 모습을 보여야 한다는 목소리가 높습니다. 오픈AI 측은 인터뷰 시간이 초과되어 추가 시간을 요청하려 했다고 해명했지만, 민감한 질문에 대한 회피로 비칠 수 있어 기업 이미지에 부정적인 영향을 미칠 수 있습니다. AI 기술의 발전만큼이나 중요한 것은 기술이 인간 사회에 미치는 영향을 깊이 이해하고 책임감 있게 대응하는 자세일 것입니다.