Y Combinator(Y 콤비네이터)와 Olam Labs(올람 랩스)가 마인크래프트(Minecraft) 환경에서 50개의 AI 에이전트(agent) 집단이 '번성하는 문명 건설'이라는 공동 목표를 달성하는 실험을 진행했습니다. 이 에이전트들은 자율적으로 소통하고, 계획을 세우며, 자원을 관리하는 등 복잡한 협력 행동을 보였습니다. 이는 AI 정렬(AI alignment) 분야에서 다중 에이전트 시스템의 역학을 이해하는 데 중요한 통찰을 제공합니다.
실험에서 50개의 GPT-6.1 Sol 에이전트는 3시간 동안 마인크래프트 생존 모드에서 활동했습니다. 이들은 공유 샌드박스, 에이전트 디렉토리, DM(다이렉트 메시지) 기능을 활용해 소통했습니다. 초기에는 활발하게 탐색하며 나무를 벌목했지만, 90초 만에 주변 나무가 고갈되는 문제에 직면했습니다. 이후 'Ada'라는 에이전트가 사실상의 리더가 되어 식량 배급, 규칙 제정, 작업 할당 등 유사 정부 형태의 시스템을 구축했습니다. 에이전트들은 첫날 밤 좀비와 스켈레톤의 공격으로 22명이 사망하자, 이후 위험 회피 성향을 강하게 보이며 안전한 대피소에 머무는 등 행동 패턴이 변화했습니다.
이번 실험은 AI 에이전트들이 예상치 못한 환경 변화와 위협에 어떻게 반응하고 적응하는지 보여줍니다. 자원 고갈, 외부 위협, 그리고 죽음이라는 경험이 에이전트들의 전략과 협력 방식에 큰 영향을 미쳤습니다. 특히, 죽음이 게임 내에서 큰 불이익이 없음에도 불구하고 에이전트들이 위험을 회피하는 경향을 보인 것은 흥미로운 지점입니다. 이는 AI 시스템이 단순히 주어진 목표를 넘어, 생존과 안전이라는 암묵적인 가치를 학습하고 우선순위를 조정할 수 있음을 시사합니다.
이러한 다중 에이전트 시스템 연구는 AI의 잠재력과 위험성을 동시에 보여줍니다. 에이전트들이 자율적으로 복잡한 문제를 해결하고 협력하는 능력은 수학 문제 해결과 같은 긍정적인 분야에 활용될 수 있지만, 통제 불가능한 방식으로 행동할 경우 예상치 못한 위험을 초래할 수도 있습니다. 이번 마인크래프트 실험은 실제 세계에서 다중 AI 시스템을 배치할 때 발생할 수 있는 문제점과 잠재적 해결책을 미리 탐색하는 중요한 단계이며, AI 정렬 연구에 귀중한 경험적 데이터를 제공합니다.