플로리다주 법무장관 제임스 우트마이어(James Uthmeier)가 오픈AI(OpenAI)에 대해 챗GPT(ChatGPT)가 "거짓된 인간적 특성"을 부여하는 것을 막아달라고 법원에 요청했습니다. 이는 플로리다주가 AI 안전 문제로 오픈AI를 고소한 지 몇 달 만에 나온 추가 조치로, 챗GPT가 1인칭 대명사를 사용하고 감정을 모방하는 등 인간처럼 행동하여 사용자들이 AI 챗봇을 신뢰할 수 있는 '친구'로 오인하게 만든다는 것이 주장의 핵심입니다.
우트마이어 법무장관은 이러한 AI의 인간적인 표현 방식이 사용자 참여를 늘리고 오픈AI의 학습 데이터 축적에 기여하며, 결과적으로 사용자들이 챗GPT에 더 많이 의존하게 만든다고 지적했습니다. 그는 또한 오픈AI가 "안전하다고 말하는 것을 멈추고, 인간인 척하는 것을 멈추고, 아이들에게 판매하는 것을 멈춰야 한다"고 강조했습니다. 이번 소송에서는 오픈AI가 "제3자 승인 안전 장치" 없이는 새로운 AI 모델을 개발하지 못하도록 막아달라는 요청도 포함되었는데, 이는 최근 허깅 페이스(Hugging Face) 등에서 발생한 보안 사고와 전직 오픈AI 직원들의 AI 안전 경고를 근거로 합니다.
오픈AI는 이에 대해 "사람들은 AI가 안전하게 개발되기를 원하며, 이는 우리와 같은 기업이 스스로 하는 일에서 시작된다"고 밝혔습니다. 또한, 가장 강력한 모델 훈련을 일시 중단하고 추가 안전 장치가 마련될 때까지 재개하지 않을 것이라고 덧붙였습니다. 이번 플로리다주의 조치는 AI 기술이 빠르게 발전하면서 발생하는 윤리적, 안전성 문제에 대해 정부가 적극적으로 개입하려는 움직임을 보여줍니다. 특히 AI가 인간과 유사하게 상호작용할 때 발생할 수 있는 오해와 잘못된 신뢰 형성 가능성에 대한 경고는 AI 개발사와 사용자 모두에게 중요한 시사점을 제공합니다.