독일 바이에른주 법원이 구글의 인공지능(AI) 모델 제미나이(Gemini)에 대해 '진실 의무'를 부과하는 판결을 내렸습니다. 이는 AI가 생성한 정보가 허위일 경우, 서비스 제공자가 이를 인지하고 사실 관계를 명확히 밝히며 정정해야 할 법적 책임이 있다는 내용입니다. 이번 판결은 AI의 정보 생성 능력과 그에 따른 책임 소재에 대한 중요한 법적 기준을 제시했다는 점에서 주목됩니다.
이번 사건은 한 개인이 제미나이가 자신에 대해 잘못된 정보를 생성하자 구글에 삭제 및 정정을 요구했으나, 구글이 이를 거부하면서 법정으로 이어졌습니다. 법원은 제미나이가 생성한 정보가 허위임을 인정하고, 구글에 해당 정보를 삭제하고 미래에 유사한 허위 정보를 생성하지 않도록 조치할 것을 명령했습니다. 특히, 법원은 AI가 '환각(hallucination)' 현상으로 잘못된 정보를 생성하더라도, 그 결과에 대한 책임은 서비스 제공자에게 있다고 판단했습니다.
이 판결은 대규모 언어모델(LLM)이 사회에 미치는 영향이 커지는 상황에서, AI의 신뢰성과 책임성에 대한 논의를 한층 심화시킬 것으로 예상됩니다. AI 서비스 제공자들은 이제 단순히 기술적 문제를 넘어, AI가 생성하는 정보의 정확성과 진실성에 대한 법적 책임을 더욱 무겁게 느끼게 될 것입니다. 이는 AI 개발 및 운영 과정에서 데이터의 품질 관리, 환각 현상 감소 기술 개발, 그리고 사용자에게 정보의 출처와 신뢰도를 명확히 고지하는 등의 노력이 더욱 중요해질 것임을 시사합니다.