구글(Google)과 구글 딥마인드(Google DeepMind) 연구진이 인공 일반 지능(AGI: Artificial General Intelligence)에 대한 논의를 심화하기 위해 '딥마인드 연구소(DeepMind Institute)'를 공식 출범했습니다. 이 연구소는 딥마인드 공동 창립자인 셰인 레그(Shane Legg), 구글 경영진 제임스 매니카(James Manyika), 구글 딥마인드 회장 데미스 허사비스(Demis Hassabis)가 이사로 참여하며, 레그가 상무 이사를 맡습니다. 연구소의 목표는 구글, 딥마인드, 그리고 전 세계 연구 커뮤니티 간의 AGI에 대한 다양한 시각을 표면화하고, 빠르게 변화하는 AI 분야에서 새로운 데이터와 정보에 따라 의견이 달라질 수 있음을 인정하며 열린 논의를 이끌어내는 것입니다.
딥마인드 연구소는 출범과 동시에 AGI의 잠재적 파괴에 대비한 경제 정책, 인간이 이해할 수 있는 모델 추론 보존, 인간 번영을 위한 원칙, 그리고 최첨단 AI 모델 평가 프레임워크 등 네 가지 주제를 다룬 에세이 컬렉션을 공개했습니다. 특히 딥마인드 안전 연구원 로힌 샤(Rohin Shah)와 안카 드라간(Anca Dragan)의 에세이는 AI 모델의 투명성(step-by-step reasoning을 확인하는 능력) 감소가 필연적이지 않다고 주장하며, 개발자와 규제 당국이 안전과 투명성 사이의 균형을 직접적으로 다뤄야 한다고 강조합니다. 이는 '불투명한 직렬 깊이(opaque serial depth)'를 제한하거나, 덜 투명한 시스템도 모니터링 가능함을 입증하도록 요구하는 방안을 포함합니다. 또한, 데미스 허사비스는 가장 진보된 AI 모델을 평가하기 위한 미국 주도의 최첨단 AI 표준 기관 설립을 제안했습니다. 이 기관은 개발자들이 모델 출시 30일 전 자발적으로 검토를 제출하고, 효과가 입증되면 테스트 통과가 배포의 필수 요건이 될 수 있도록 하는 프레임워크를 제시합니다. 이는 AI 기업들과 협의하여 평가를 설계하되, 궁극적으로는 알려지지 않은 '비공개(held-out)' 평가를 개발하여 모델이 특정 테스트에 맞춰지는 것을 방지하려는 목적을 가지고 있습니다.
이번 딥마인드 연구소의 출범과 에세이 발표는 AI 산업의 안전성 논의가 막연한 우려 표명에서 벗어나, 정보 공개, 외부 감시, 그리고 필요한 경우 개발 속도 조절 등 구체적인 제안으로 전환되고 있음을 보여줍니다. 이는 최근 앤트로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)가 최첨단 AI 개발 속도 조절을 촉구한 데 대한 업계 리더들의 지지와 맞물려, AI 거버넌스 및 안전성 확보에 대한 논의가 더욱 활발해질 것임을 시사합니다. 이러한 움직임은 미래 AGI의 잠재적 위험을 관리하고 인류에게 이로운 방향으로 발전시키기 위한 중요한 첫걸음이 될 것으로 보입니다.