최근 임상시험수탁기관(CRO)들이 임상시험 과정에 인공지능(AI) 기술을 적극 도입하면서 새로운 책임 소재 문제가 부상하고 있습니다. AI가 임상 데이터에서 이상 징후를 발견하고 연구자에게 질의(query)를 보낼 때, 이 질의의 정확성과 그에 대한 답변의 최종 책임이 누구에게 있는지 명확하지 않다는 지적입니다. 이는 AI가 단순 보조 도구를 넘어 의사결정 과정에 깊이 개입하면서 발생하는 복잡한 문제입니다.
기존 임상시험에서는 데이터 관리자나 모니터 요원이 직접 데이터를 검토하고 질의를 생성하며, 이에 대한 책임은 명확히 해당 인력과 CRO에 있었습니다. 그러나 AI가 생성한 질의의 경우, AI 모델의 학습 데이터 편향이나 알고리즘 오류로 인해 잘못된 질의가 발생할 가능성이 존재합니다. 만약 AI의 질의로 인해 임상시험 결과가 왜곡되거나 환자 안전에 문제가 발생한다면, 이를 개발한 AI 기업, AI를 도입한 CRO, 혹은 최종 승인 기관 중 누가 책임을 져야 하는지에 대한 법적, 윤리적 논의가 시급합니다.
이러한 책임 소재 문제는 AI 기반 임상시험의 신뢰성과 투명성을 저해할 수 있으며, 궁극적으로 신약 개발 지연으로 이어질 수도 있습니다. 따라서 규제 당국은 AI 활용 임상시험에 대한 명확한 가이드라인을 제시하고, CRO와 제약사는 AI 시스템의 검증 및 유효성 평가 프로세스를 강화해야 합니다. AI의 잠재력을 최대한 활용하면서도 환자 안전과 데이터 무결성을 보장하기 위한 업계 전반의 협력과 제도적 정비가 필수적입니다.