미국 뉴멕시코 대법원이 살인 사건 항소심에 인공지능(AI)이 만들어낸 허위 증언을 제출한 변호사에게 5천 달러(약 680만 원)의 벌금을 부과하고 법정 모독죄를 선고했습니다. 스티븐 애런스(Stephen Aarons) 변호사는 의뢰인의 살인 유죄 판결에 대한 항소심에서 AI가 조작한 증인 진술과 가짜 경찰 증언을 포함한 서류를 제출한 것으로 드러났습니다.
법원 문서에 따르면, 애런스 변호사가 제출한 서류에는 “완전히 조작된 증인들의 허위 증언”과 함께 총격범의 옷차림과 외모에 대한 “허위 증언”이 포함되어 있었습니다. 지난 8월 심리에서 애런스 변호사는 챗GPT(ChatGPT)를 사용했으며, AI가 재판에 대한 “완벽한 요약”을 생성해 줄 것이라고 생각했다고 인정했습니다. 이에 대해 C. 섀넌 베이컨(C. Shannon Bacon) 대법관은 변호사에게 “뉴스를 보지 않느냐”며 AI 환각(hallucination) 문제의 심각성을 지적했습니다. 이는 법률 전문가들 사이에서 AI 도구 사용이 증가하면서 AI가 만들어낸 허위 정보 제출 사례가 늘고 있는 상황을 반영합니다.
이번 판결은 법률 분야에서 AI 도구를 사용할 때 철저한 사실 확인과 검증의 중요성을 명확히 보여줍니다. AI 기술은 효율성을 높일 수 있지만, 그 한계와 위험성을 충분히 이해하지 못하고 맹신할 경우 심각한 법적, 윤리적 문제를 초래할 수 있습니다. 특히 법률과 같이 정확성과 신뢰성이 최우선시되는 분야에서는 AI 생성 정보에 대한 인간의 최종 검토와 책임이 필수적임을 시사합니다. 이러한 사건들은 AI 기술의 발전과 함께 사용자 교육 및 가이드라인 마련의 필요성을 더욱 부각시키고 있습니다.