최근 '프로토링크(ProtoLink)'라는 오픈소스 프레임워크를 활용해 AI 에이전트들이 가상 법정에서 자율주행차 사고의 책임 소재를 놓고 토론하는 흥미로운 실험이 공개되었습니다. 이 실험은 AI 에이전트들이 서로 어떻게 영향을 주고받아 최종 결정에 이르는지, 그 복잡한 의사결정 과정을 투명하게 관찰하고 분석하는 데 초점을 맞춥니다. 단순히 결과뿐 아니라, 각 에이전트의 역할, 인센티브, 그리고 커뮤니케이션 방식이 어떻게 의견 변화로 이어지는지를 추적할 수 있도록 설계되었습니다.
가상 법정 시나리오는 'C-91 사건'으로 명명된 자율주행 로보택시 사고를 다룹니다. 비 오는 밤, 자율주행차 '아스터 베일(Aster Vale)'이 자전거 운전자를 치어 사망에 이르게 한 상황에서, 회사가 '형사상 과실'이 있는지 여부를 판단하는 것이 핵심입니다. 법정에는 판사, 피해자 가족 변호사, 자율주행차 회사 임원, 엔지니어, 규제 당국자, 보험사 관계자, 독립 조사관 등 다양한 배경을 가진 7명의 AI 에이전트와 5명의 AI 배심원이 참여합니다. 이들은 각각의 증거(예: 카메라 오작동, 소프트웨어 업데이트, 규제 승인 등)를 바탕으로 질문하고 답변하며, 공개 메시지를 주고받은 후 각자의 투표와 이유를 업데이트하는 방식으로 진행됩니다. 모든 과정은 JSON 결과, 프로토링크 추적 기록, 공개 속기록, 그리고 대화형 HTML 보고서로 기록되어 재현 및 분석이 가능합니다.
이 실험은 AI 시스템의 책임(liability) 문제를 탐구하는 데 중요한 의미를 가집니다. 특히 자율주행차와 같은 복잡한 AI 시스템에서 사고가 발생했을 때, 여러 요인이 복합적으로 작용하는 '상호작용 오류(interacting-failures)' 문제를 어떻게 해석하고 책임을 귀속할 것인가에 대한 통찰을 제공합니다. AI 에이전트 간의 의사소통과 의견 변화를 시각화함으로써, AI 시스템 내부의 '블랙박스'를 조금이나마 열어보고, 인간의 의사결정 과정과 유사한 방식으로 AI가 어떻게 복잡한 문제에 접근하는지 이해하는 데 기여할 수 있습니다. 이는 향후 AI 시스템의 설계, 규제, 그리고 윤리적 문제 해결에 있어 중요한 참고 자료가 될 것입니다.