미국 연방 제5 항소법원이 한 하급심 판사의 인공지능(AI) 활용 방식에 문제를 제기하며, 해당 판사로부터 사건을 재배당하는 방안을 검토하고 있습니다. 이 사건은 법률 전문가들이 AI 도구를 사용할 때 내용의 정확성을 철저히 검증해야 한다는 경각심을 일깨우는 중요한 사례로 떠오르고 있습니다.
문제의 발단은 텍사스주 지방법원의 한 판사가 AI로 생성된 법률 문서를 제대로 확인하지 않고 재판에 인용한 것으로 알려졌습니다. 이 문서는 존재하지 않는 판례와 허위 사실을 포함하고 있었으며, 이는 AI 도구가 때때로 '환각(hallucination)' 현상으로 잘못된 정보를 생성할 수 있다는 점을 여실히 보여줍니다. 항소법원은 이러한 상황이 재판의 공정성과 신뢰성을 훼손할 수 있다고 판단하여 사건 재배당이라는 이례적인 조치를 고려하게 된 것입니다.
이번 항소법원의 검토는 법률 분야에서 AI 기술 도입이 가속화되는 가운데, 그 활용에 대한 명확한 가이드라인과 책임 소재를 확립해야 할 필요성을 강조합니다. AI는 법률 리서치나 문서 초안 작성 등에서 효율성을 높일 수 있지만, 최종적인 판단과 검증은 여전히 인간 전문가의 몫임을 분명히 보여주는 사례입니다. 이는 단순히 기술 도입을 넘어, 기술이 사회 시스템에 미치는 영향과 그에 따른 윤리적, 법적 책임을 심도 있게 고민해야 할 시점임을 시사합니다.