최근 인공지능(AI) 애플리케이션의 개발 패러다임이 단일 기반 모델(FM)을 넘어 여러 에이전트가 협력하는 복합 시스템으로 빠르게 전환되고 있습니다. 하지만 이러한 변화에도 불구하고 현재의 AI 개발 스택은 여전히 파편화되어 있어, 각 프레임워크가 상태, 메모리, 예산, 안전장치(가드레일) 등을 개별적으로 관리하며 비효율을 초래하고 있습니다. 이는 마치 운영체제가 없던 시절, 모든 프로그램이 기본적인 서비스를 각자 구현해야 했던 상황과 유사합니다.
아르카이브(arXiv)에 발표된 한 논문은 이러한 문제를 해결하기 위해 '기반 모델 운영체제(FMOS: Foundation Model Operating System)'의 등장을 제안합니다. FMOS는 가상 머신이 물리적 하드웨어를 추상화하여 애플리케이션에 전용 하드웨어의 환상을 제공하듯이, 기반 모델의 상호작용을 가상화하는 시스템 계층입니다. 이를 통해 애플리케이션은 사실상 무한한 기능을 가진 전용의 신뢰할 수 있는 기반 모델 인스턴스를 사용하는 것처럼 작동하게 됩니다. FMOS는 내부적으로 메모리 계층 전반의 지식 오케스트레이션, 모델 선택 및 자원 할당, 그리고 검증 및 정책 시행을 담당합니다.
이러한 FMOS는 인간 두뇌가 빠른 직관과 느린 숙고 사이를 오가는 것처럼, 언제 개입하고 언제 추론(inference)을 직접 진행하게 할지 학습하며 운영 경험을 바탕으로 정책을 지속적으로 조정합니다. 이는 AI 시스템의 행동을 이식 가능하게 하고 거버넌스를 강화하여, 개발자들이 복잡한 AI 에이전트 시스템을 보다 효율적이고 안정적으로 구축하고 관리할 수 있도록 지원할 것입니다. 궁극적으로 FMOS는 AI 개발의 복잡성을 줄이고, 다양한 AI 모델과 도구가 유기적으로 통합되어 시너지를 낼 수 있는 기반을 마련할 것으로 기대됩니다.