전국 36개 대학에서 149명의 대학생 및 대학원생이 참여하는 '제2회 트라이톤(Traithon)' AI 신뢰성 해커톤이 3개월간의 일정으로 막을 올렸습니다. 신뢰할 수 있는 AI 국제연대 한국 네트워크(TRAIN코리아)와 AI 신뢰성 기술 기업 씽크포비엘이 공동 주최하는 이번 대회는 AI의 신뢰성 확보에 필요한 실질적인 역량을 강화하는 데 초점을 맞추고 있습니다.
이번 트라이톤 해커톤은 AI 모델의 최종 성능보다는 개발 과정에서 수행되는 신뢰성 활동을 중점적으로 평가하는 것이 특징입니다. 참가자들은 'AI 허브' 데이터와 SK텔레콤의 AI 모델 'A.X'를 활용해 클릭베이트(낚시성 콘텐츠) 탐지 모델을 개발하지만, 모델의 정확도 자체가 평가 대상은 아닙니다. 대신, 팀별 주제 선정부터 사용자·영향·위험 분석, 신뢰성 활동 계획 수립, 그리고 이를 구현하고 검증하는 과정에서 예상과 달랐던 부분을 근거에 따라 보완하는 능력을 평가합니다. 특히 올해는 AI 에이전트 시스템의 신뢰성이 처음으로 평가 항목에 포함되어, AI의 자율 판단 범위, 사람의 개입 조건, 호출 임계점, 운영자 대시보드 설계 등 복합적인 요소를 고려해야 합니다.
평가 방식 또한 변화하여, 참가자들이 예상과 실제의 차이를 발견하고 판단을 수정해 나가는 과정을 중요하게 봅니다. 이를 위해 참가자들에게는 개발 과정을 기록하는 다이어리와 워크시트가 제공되며, 결선에서는 전문가 평가와 함께 참가팀 간의 동료 평가(peer review)가 반영됩니다. 멘토링 방식도 여러 팀이 고민과 판단을 공유하는 집단 방식으로 전환되어, 실제 프로젝트 환경과 유사한 학습 경험을 제공합니다. 이러한 변화는 AI 신뢰성 확보가 단순히 기술적 성능을 넘어선 복합적인 문제 해결 과정임을 강조하며, 다양한 전공 배경을 가진 참가자들이 협력하여 실질적인 문제 해결 능력을 키울 수 있도록 돕습니다.
이번 해커톤은 AI 신뢰성 분야의 인재를 양성하고, 실제 산업 현장에서 요구되는 문제 해결 역량을 강화하는 데 큰 의미가 있습니다. 박지환 씽크포비엘 대표는 “AI 신뢰성도 기준을 안다고 만들어지지 않는다”며 “실제 프로젝트에서 위험을 발견하고 근거로 판단하며 필요하면 설계를 바꿀 수 있는 인재를 키우는 과정이 될 것”이라고 밝혔습니다. 이는 AI 기술이 사회 전반에 확산됨에 따라, 기술적 성능뿐만 아니라 윤리적이고 안전하게 작동하는 AI 시스템을 설계하고 운영할 수 있는 전문가의 필요성이 증대되고 있음을 시사합니다. 상위 6팀에게는 상금과 IT 기업 채용 연계형 인턴십 기회가 주어지며, 본선 진출자 중 자격 요건을 갖추면 AI 신뢰성 전문가 민간자격(CTAP) 응시 기회도 제공됩니다.