선도적인 인공지능(AI) 연구 기업 앤트로픽(Anthropic)이 AI 모델 개발 과정의 투명성을 높이기 위해 AI가 AI를 개발하는 내부 현황과 감독 지표를 공개했습니다. 이는 단순히 모델의 성능을 넘어, AI가 연구개발에 얼마나 기여하고 그 행동이 어떻게 감독되며 컴퓨팅 자원이 어디에 사용되는지를 측정하고 외부에 공개하는 첫 시도입니다. 앤트로픽은 이를 통해 AI 개발의 책임성을 강화하고, 업계 전반의 안전한 개발 속도 조절 논의에 필요한 정보를 제공하겠다는 목표를 제시했습니다.
앤트로픽의 2026년 8월 내부 평가에 따르면, 자사의 AI 모델 클로드(Claude)는 AI 연구개발 업무의 26%를 주도(AL4)하고 90% 이상에서 협업(AL3) 이상의 역할을 수행하고 있습니다. 하지만 인간의 개입 없이 완전히 자율적으로 업무를 수행하는 AL5 단계에 이른 영역은 아직 없다고 밝혔습니다. 현재 가장 많이 사용되는 내부 플랫폼에서는 약 3만 개의 에이전트가 동시에 활동하며, 모든 행동은 실행 전후로 실시간 감시됩니다. 또한, 조사된 일주일 동안 AI 연구개발 컴퓨팅 자원의 약 6%가 안전 작업에 투입되었으며, 이는 안전장치용 분류기를 제외한 수치로 전체 안전 노력의 비중과는 다릅니다. 앤트로픽은 이러한 지표를 다른 연구소들도 공유하여 공통 측정 기준을 마련하고, 독립적인 외부 평가자에게 내부 위험 평가팀과 동등한 접근 권한을 부여할 계획입니다.
이번 지표 공개는 AI가 점점 더 강력해지고 자기 자신을 만드는 과정의 자동화가 확대됨에 따라, 프런티어 AI 개발 속도 조절에 대한 논의를 위한 필수적인 정보가 부족하다는 문제의식에서 출발했습니다. 앤트로픽은 이 지표가 모델이 '무엇을 할 수 있는지'가 아니라 '어떻게 만들어지는지'를 측정하며, 컴퓨팅 같은 투입 요소와 모델 역량 같은 산출물의 관계를 파악하고 역량 평가를 보완하는 데 목적이 있다고 설명했습니다. 이는 AI 개발의 투명성과 책임성을 높이는 중요한 발걸음이며, 향후 AI 산업 전반에 걸쳐 개발 속도 조절 및 안전성 확보를 위한 공통된 기준과 협력 방안을 모색하는 데 기여할 것으로 기대됩니다. 궁극적으로는 AI의 잠재적 위험을 관리하고 인류에게 이로운 방향으로 AI가 발전하도록 유도하는 데 중요한 역할을 할 것입니다.