인공지능(AI)이 대출 승인, 채용 결정, 의료 진단 등 개인의 삶에 중대한 영향을 미치는 결정을 내리거나 영향을 줄 때, 유럽연합(EU) 법은 해당 개인에게 '설명 요구권(Right to Explanation)'을 부여합니다. 이는 AI 시스템이 왜 특정 결정을 내렸는지 이해할 수 있도록 보장하는 권리입니다. 그러나 설명 가능한 AI(Explainable AI, XAI) 기술이 이러한 법적 요구사항을 실제로 어떻게 충족할 수 있는지에 대한 명확한 이해는 아직 부족한 실정입니다. 이 간극은 AI 기반 결정에 대해 개인이 효과적으로 이의를 제기하고 자신의 권리를 보호하는 데 중요한 장애물이 될 수 있습니다.
최근 발표된 벤자민 프레즈(Benjamin Fresz) 외 연구진의 논문은 EU의 설명 요구권, 특히 일반 데이터 보호 규정(GDPR) 제15조 1항 (h)와 AI 법(AI Act, AIA) 제86조를 중심으로 XAI 관련 문헌을 체계적으로 검토했습니다. 2024년 AI 법 최종 버전이 발표된 이후의 논문들을 대상으로 광범위한 검색을 통해 2643개의 초기 기록을 식별했으며, 이 중 57개의 전문을 검토한 결과 오직 19개 논문만이 법적 관점과 기술적 관점을 실질적으로 통합하고 있음을 발견했습니다. 이는 현재 규제 프레임워크에 대한 학제 간 통합이 부족하다는 점을 명확히 보여줍니다. 연구진은 대부분의 논문이 GDPR의 법적 근거를 잘못 이해하고 있고, 유럽사법재판소(CJEU)의 '던 앤 브래드스트리트(Dun & Bradstreet)' 판결을 거의 다루지 않으며, 설명의 형식(수신자에 의해 결정)과 내용(법적 목적에 의해 결정)을 혼동하는 세 가지 문제점을 지적했습니다.
이 연구는 '수신자/목적 프레임워크(Addressee/Purpose Framework)'를 제시하고, 이를 운영하기 위한 4단계 청사진과 6가지 구체적인 미해결 연구 과제를 제안합니다. 이러한 진전 없이는 설명 요구권이 기술적으로 실현 가능한 준수 경로 없이 형식적인 의무로만 남을 위험이 있습니다. 이는 AI 시스템 개발자와 규제 당국 모두에게 중요한 시사점을 제공하며, 법적 요구사항을 충족하는 동시에 실용적인 XAI 솔루션을 개발하기 위한 학제 간 연구와 협력의 필요성을 강조합니다. 궁극적으로는 AI 결정의 투명성과 공정성을 높여 사용자 신뢰를 확보하고, AI 기술의 책임감 있는 발전을 도모하는 데 기여할 것입니다.