인공지능(AI) 기반 의료 진단, 특히 영상 진단은 빠르게 발전하고 있지만, AI가 내놓는 진단 결과가 어떤 과정을 거쳐 도출되었는지 알기 어렵다는 점이 큰 과제로 남아있습니다. 단순히 '이 환자는 A 질병입니다'라는 결과만으로는 의료 전문가들이 AI의 판단을 전적으로 신뢰하기 어렵기 때문입니다. 이러한 문제를 해결하기 위해 최근 아르카이브(arXiv)에 발표된 연구는 툴민(Toulmin) 논증 모델을 활용하여 AI의 진단 과정을 구조화하고 해석 가능성을 높이는 새로운 접근 방식을 제시했습니다.
이 연구는 이미지 기반 진단을 툴민 논증 모델의 구성 요소인 주장(claim), 근거(grounds), 보증(warrant), 한정사(qualifier), 반박(rebuttal), 지지(backing)로 분해합니다. 예를 들어, 망막 진단에서 기계 학습(ML) 모델이 특정 주장을 생성하면, 이 프레임워크는 바이오마커(biomarker) 추출에 특화된 모델이 이미지에서 '근거'를 제공합니다. 이 근거와 주장을 연결하는 '보증'은 의료 지식을 갖춘 에이전트(MedGemma)가 분석하며, '한정사'는 근거 및 보증 모델의 전반적인 정량적 평가를 기반으로 결정됩니다. 마지막으로, MedSigLip을 활용한 이미지 유사성 측정으로 '반박'이 구성되어, 이 모든 구성 요소가 인간 전문가에게 제시되어 ML 기반 진단을 더욱 정보에 입각하여 비판적으로 평가할 수 있도록 돕습니다.
이러한 접근 방식은 AI 의료 진단의 투명성과 신뢰성을 획기적으로 개선할 잠재력을 가집니다. 의료 전문가들은 AI가 내린 진단 결과뿐만 아니라, 그 진단이 어떤 객관적인 근거와 논리적 연결 고리를 통해 도출되었는지 명확히 이해할 수 있게 됩니다. 이는 AI를 단순한 예측 도구가 아닌, 인간 의사의 판단을 보조하고 강화하는 '정보에 입각한 진단 지원(informed diagnostic assistance)' 도구로 발전시키는 중요한 단계입니다. 궁극적으로 환자 안전을 높이고 의료진의 AI 수용도를 향상시키는 데 기여할 것으로 기대됩니다.