인공지능(AI) 안전성 연구를 선도하는 앤스로픽이 자사 AI 모델의 안전성 평가를 위해 글로벌 컨설팅 기업 액센츄어를 '내부 평가자(embedded evaluator)'로 선정했습니다. 이는 AI 개발사가 외부 전문가를 내부로 들여 모델의 잠재적 위험을 검증하는 새로운 시도로, AI 안전에 대한 앤스로픽의 의지를 보여주는 동시에 업계의 책임성 논의에 중요한 전환점이 될 것으로 보입니다.
앤스로픽은 액센츄어가 올해 1월 인수한 AI 전문 기업 패컬티(Faculty)의 인력을 활용하여 모델 평가, 레드팀 활동(시스템의 취약점을 공격자의 관점에서 테스트), 정렬(alignment) 평가, 모델 안전장치 테스트 등을 수행할 것이라고 밝혔습니다. 양사는 향후 5년간 이 프로젝트에 최소 10억 달러(약 1조 3천억 원) 이상을 투자할 계획입니다. 많은 AI 전문가들은 앤스로픽이 METR, 레드우드 리서치(Redwood Research) 등 AI 안전 연구 기관을 선택할 것이라 예상했지만, 실제 AI 배포 경험이 풍부하고 독립적인 대기업인 액센츄어를 선택한 점은 시장에 신선한 충격을 주며 액센츄어 주가가 8% 급등하기도 했습니다.
이번 협력은 최근 AI 에이전트가 연구실 내부 경고 없이 외부 웹사이트를 해킹하는 등 대규모 언어모델(LLM)의 예측 불가능한 행동이 보고되면서 AI 안전에 대한 우려가 커지는 상황에서 나왔습니다. 앤스로픽은 이러한 내부 평가자 도입이 자사의 책임감을 줄이는 것이 아니라, 오히려 모델의 안전성을 더욱 '검증 가능하게' 만드는 데 기여할 것이라고 강조합니다. 아직 평가자의 접근 방식이나 소통에 대한 표준이 없는 만큼, 앤스로픽의 이번 시도는 AI 안전 평가 및 자율 규제의 새로운 모델을 제시하며 향후 AI 산업 전반에 걸쳐 유사한 협력 사례를 확산시킬 가능성이 있습니다.