최근 미국 뉴욕 남부지방법원에서 두 명의 변호사가 인공지능(AI) 챗봇이 만들어낸 허위 판례를 법원 문서에 인용하여 자격 정지 처분을 받았습니다. 이들은 항공사 소송에서 AI 챗봇을 사용해 관련 판례를 찾았으나, 챗봇이 생성한 판례들이 실제로는 존재하지 않는 가짜였다는 사실이 밝혀지면서 법정 모독죄로 기소되었습니다. 이는 법률 분야에서 AI 활용의 잠재력과 함께 그 위험성을 극명하게 보여주는 사건으로, 전 세계 법조계에 경종을 울리고 있습니다.
해당 변호사들은 스티븐 슈워츠(Steven Schwartz)와 피터 로두카(Peter LoDuca)로, 아비앙카 항공(Avianca Airlines)을 상대로 한 개인 상해 소송에서 AI 챗봇인 챗GPT(ChatGPT)를 활용했습니다. 이들은 챗GPT가 제시한 6개의 판례를 소송 서류에 인용했지만, 상대방 변호인단과 판사가 해당 판례들을 찾아낼 수 없다는 사실을 지적하면서 문제가 불거졌습니다. 법원은 변호사들이 AI 생성 정보를 제대로 검증하지 않은 채 제출한 점을 중대하게 판단했으며, 결국 3개월의 자격 정지 처분과 함께 벌금을 부과했습니다. 이 사건은 AI가 그럴듯하게 꾸며낸 허위 정보, 즉 환각(hallucination) 현상이 실제 법적 절차에 심각한 영향을 미칠 수 있음을 보여줍니다.
이번 사건은 법률 전문가들이 AI 도구를 사용할 때 반드시 거쳐야 할 윤리적 책임과 정확성 검증의 중요성을 다시 한번 강조합니다. AI는 방대한 정보를 빠르게 처리하고 분석하는 데 도움을 줄 수 있지만, 그 결과물의 신뢰성을 맹신해서는 안 됩니다. 특히 법률과 같이 정확성이 생명인 분야에서는 AI가 제공하는 정보에 대한 인간의 비판적인 검토와 최종 확인이 필수적입니다. 앞으로 법률 분야에서 AI 활용이 더욱 확산될 것으로 예상되는 만큼, AI의 한계를 명확히 인지하고 이를 보완할 수 있는 제도적 장치와 교육이 시급하다는 점을 시사합니다.