오픈AI(OpenAI)의 대규모 언어모델(LLM) 챗GPT(ChatGPT)가 호주에서 의료 관련 허위 정보를 제공하여 심각한 논란에 휩싸였습니다. 챗GPT가 특정 의사를 소아성애자로 잘못 지목하는가 하면, 잘못된 의료 진단까지 내리는 사례가 발생하며 AI의 신뢰성과 책임 문제에 대한 우려가 커지고 있습니다. 이는 AI 기술이 실제 생활에 미치는 영향이 증대됨에 따라, 개발사의 무책임한 태도에 대한 비판과 함께 강력한 규제 필요성을 제기하는 계기가 되고 있습니다.
이번 논란의 핵심은 챗GPT가 호주 빅토리아주의 한 시장(Mayor)이자 의사인 브라이언 리들(Brian Lidell)을 소아성애자로 잘못 지목한 사건입니다. 리들 박사는 챗GPT가 자신에 대한 허위 사실을 유포했다며 명예훼손 소송을 제기했습니다. 또한, 챗GPT는 한 환자에게 잘못된 의료 진단을 내리거나, 존재하지 않는 의학 저널을 인용하는 등 의료 분야에서 치명적인 오류를 반복적으로 드러냈습니다. 이러한 문제들은 AI가 생성하는 정보의 정확성 검증이 얼마나 중요한지, 특히 생명과 직결될 수 있는 의료 분야에서는 더욱 엄격한 기준이 필요하다는 점을 명확히 보여줍니다.
이번 사건은 AI 개발사들이 '일단 출시하고 나중에 문제를 해결하자'는 식의 '기다려보자(wait and see)' 접근 방식이 더 이상 통용되기 어렵다는 강력한 신호입니다. AI가 사회 전반에 미치는 영향이 커지면서, 기술의 잠재적 위험에 대한 사전 예방적 조치와 투명한 책임 규명이 필수적이라는 인식이 확산되고 있습니다. 특히 의료와 같이 민감한 분야에서는 AI의 오작동이 개인의 삶에 돌이킬 수 없는 피해를 줄 수 있으므로, 개발 단계부터 엄격한 안전성 검증과 윤리적 가이드라인 준수가 요구됩니다. 이번 호주 사례는 전 세계적으로 AI 기술의 책임 있는 개발과 활용을 위한 규제 논의를 가속화하는 중요한 전환점이 될 것입니다.