최근 인공지능(AI)이 인간의 의사결정을 돕는 새로운 접근 방식인 '평가 AI(Evaluative AI, EAI)'가 제안되었습니다. 기존 AI가 하나의 최적화된 추천만을 제공하는 것과 달리, EAI는 여러 경쟁 가설들을 동시에 제시하고, 각 가설에 대한 찬성 및 반대 증거를 함께 보여줌으로써 인간이 더 깊이 있는 판단을 내릴 수 있도록 돕습니다.
이 연구 논문은 EAI의 핵심 목표인 '설명 가능성(explainability)'과 '이의 제기 가능성(contestability)'을 달성하기 위한 기반으로 '계산 논증(computational argumentation)' 패러다임을 강조합니다. 계산 논증은 형식적이고 계산 가능한 방식으로 논쟁을 모델링하는 기법으로, AI 시스템이 왜 특정 가설을 지지하거나 반대하는지 그 이유와 근거를 명확히 제시할 수 있게 합니다. 이는 사용자가 AI의 판단 과정을 이해하고, 필요하다면 그 논리에 대해 질문하거나 반박할 수 있는 토대를 마련해줍니다.
이러한 논증 기반의 EAI는 의료 진단, 법률 자문, 복잡한 정책 결정 등 높은 투명성과 신뢰가 요구되는 분야에서 특히 유용할 것으로 기대됩니다. AI가 단순히 답을 주는 것을 넘어, 그 답에 이르는 과정을 논리적으로 설명하고 다양한 관점을 제시함으로써, 인간과 AI가 더욱 효과적으로 협력하여 더 나은 의사결정을 내릴 수 있는 미래를 열어줄 것입니다. 이는 장기적으로 분산형(distributed) 및 인간 중심(human-centred) EAI 시스템 개발을 위한 중요한 연구 방향을 제시합니다.