최근 인공지능(AI) 에이전트의 역량이 크게 발전하고 있지만, 여전히 많은 과학 및 전문 작업에서는 인간의 판단과 맥락적 전문성이 필수적입니다. 아르카이브(arXiv)에 발표된 새로운 연구는 인간과 AI가 함께 작업하는 '공유 작업 공간'에서 어떻게 시너지를 창출할 수 있는지에 주목했습니다. 이 연구는 단순히 AI 에이전트를 팀에 추가하는 것만으로는 성능 향상을 기대하기 어렵고, 오히려 조정(coordination) 부족으로 인해 협업이 저해될 수 있음을 지적합니다.
연구팀은 '협업 짐(Collaborative Gym)' 환경과 '디스커버리벤치(DiscoveryBench)' 작업을 활용하여 1,482개의 세션을 분석했습니다. 그 결과, 관련성 높은 협력자(인간 또는 AI)를 추가하더라도 팀이 기여를 조정할 구조가 부족하면 오히려 성능이 저하될 수 있음을 확인했습니다. 이러한 '과정 손실(process loss)'을 극복하기 위해 연구팀은 '스캐폴딩(scaffolding)'이라는 조정 전략을 평가했습니다. 스캐폴딩은 공유 그룹 메모리(shared group memory)와 특정 조치에 대해 지정된 참가자의 승인을 요구하는 인간 개입(Human-in-the-Loop, HITL) 게이트를 결합한 방식입니다.
이 스캐폴딩 전략은 전반적으로 더 높은 평균 성능을 보였으며, 특히 세 명으로 구성된 팀에서 가장 명확한 효과를 나타냈습니다. 이는 책임 신호(responsibility signals)를 명확히 하고 전문성을 팀 활동으로 더 강력하게 라우팅(routing)함으로써 가능했습니다. 결국, 인간-AI 팀의 성공은 개별 구성원의 역량만큼이나 이들이 어떻게 협력하고 전문성을 통합하는지에 달려있다는 결론입니다. 이 연구는 인간과 AI의 효과적인 협업을 위한 구조적 접근 방식의 중요성을 강조하며, 향후 인간-AI 시스템 설계에 중요한 시사점을 제공합니다.