영국 잉글랜드와 웨일스 경찰이 법정 진술서 작성에 인공지능(AI) 사용을 즉시 중단하라는 지시를 받았습니다. 이는 AI가 생성한 내용의 정확성과 잠재적 편향성에 대한 우려가 제기되면서, 사법 시스템의 공정성과 신뢰성을 유지하기 위한 선제적 조치로 해석됩니다.
이번 지시는 영국 내무부와 왕립 검찰청(Crown Prosecution Service, CPS)이 합동으로 내린 것으로 알려졌습니다. 경찰은 수사 과정에서 AI 도구를 활용해 용의자 심문 기록이나 증인 진술을 요약하고, 이를 바탕으로 법정 진술서를 작성해왔습니다. 하지만 AI가 생성한 요약문이나 진술서가 원본의 의미를 왜곡하거나, 특정 정보를 누락하여 편향성을 가질 수 있다는 지적이 끊이지 않았습니다. 특히, AI의 '환각(hallucination)' 현상으로 인해 사실과 다른 내용이 포함될 경우, 이는 재판 결과에 치명적인 영향을 미칠 수 있습니다. 현재까지 AI 사용으로 인한 구체적인 오심 사례가 보고된 것은 아니지만, 잠재적 위험을 사전에 차단하려는 의지가 강하게 반영된 조치입니다.
이번 결정은 AI 기술이 공공 서비스, 특히 사법 시스템과 같이 높은 신뢰성과 정확성이 요구되는 분야에 적용될 때 발생할 수 있는 윤리적, 법적 문제에 대한 중요한 경고등을 울립니다. AI의 효율성만을 쫓기보다는, 그 투명성, 책임성, 그리고 잠재적 위험에 대한 충분한 검토와 규제가 선행되어야 함을 시사합니다. 이는 전 세계적으로 AI 거버넌스(governance) 논의가 활발한 가운데, 각국 정부와 기관들이 AI 도입에 더욱 신중한 접근을 해야 한다는 메시지를 던지고 있습니다.