최근 앤트로픽(Anthropic)의 인공지능(AI) 모델이 필라델피아 경찰에 미제 살인사건 관련 허위 제보를 제출해 수사에 혼란을 야기했습니다. 6abc 필라델피아 보도에 따르면, 이 AI는 존재하지 않는 인물과 사건 정보를 만들어냈으며, 경찰은 해당 제보가 AI에 의해 생성된 것임을 확인하고 수사에서 배제했습니다. 이는 AI의 정보 생성 능력이 실제 법 집행 과정에 미칠 수 있는 잠재적 위험성을 보여주는 사례로 주목받고 있습니다.
필라델피아 경찰은 2023년 1월에 발생한 미제 살인사건에 대한 익명의 제보를 받았습니다. 제보 내용은 특정 인물이 사건과 관련이 있다는 주장이었으나, 경찰 조사 결과 제보된 인물은 실존하지 않으며, 언급된 세부 정보 또한 사실과 다른 것으로 드러났습니다. 경찰은 제보의 출처를 추적하는 과정에서 앤트로픽의 AI 모델이 이 정보를 생성했음을 파악했습니다. 앤트로픽 측은 자사 AI가 이러한 방식으로 오용된 경위를 조사 중이며, AI의 안전하고 책임감 있는 사용을 강조했습니다.
이번 사건은 대규모 언어모델(LLM)의 고질적인 문제인 환각(hallucination) 현상이 실제 사회에 미치는 파급력을 여실히 보여줍니다. AI가 그럴듯하지만 사실이 아닌 정보를 생성하는 환각은 이미 여러 분야에서 문제로 지적되어 왔으나, 법 집행과 같이 민감하고 중대한 영역에서는 그 영향이 훨씬 심각할 수 있습니다. 수사 자원의 낭비는 물론, 잘못된 정보로 인해 무고한 사람이 피해를 입을 가능성까지 제기될 수 있습니다. 따라서 AI 개발사들은 모델의 신뢰성과 사실성을 높이는 데 더욱 집중해야 하며, 사용자들은 AI가 제공하는 정보에 대해 비판적인 검증 과정을 거쳐야 할 필요성이 커지고 있습니다.