오픈AI(OpenAI)가 최근 개발자 행사에서 'Decisions API'라는 새로운 기능을 공개하며, 인공지능(AI) 분야에서 빠르고 저렴한 의사결정 모델의 중요성을 강조했습니다. 샘 알트만(Sam Altman) 오픈AI CEO는 이 API가 이미지 분류나 AI 에이전트(agent) 행동 선택과 같이 미리 정의된 옵션 중에서 모델이 선택하도록 돕는다고 설명했습니다. 이를 통해 모델은 이미지 이해, 광범위한 언어 지원, 안전 보호 기능은 유지하면서도 훨씬 빠른 속도로 작동할 수 있습니다.
이 Decisions API는 타입세이프 AI(TypeSafe AI)가 이달 초 출시한 'Jev' 모델과 유사한 기능을 제공합니다. Jev는 소프트웨어 자동화를 위해 설계된 초고성능 분류기(classifier)로, 개발자가 제공한 선택지들을 저렴하고 빠른 속도로 확률값으로 출력합니다. 알트만 CEO는 Decisions API가 오픈AI의 루나(Luna) 모델에 사전 정의된 선택지를 제공하여, 모델이 특정 선택에 집중함으로써 속도를 극대화할 수 있다고 밝혔습니다. 타입세이프 AI의 CEO이자 전 오픈AI 엔지니어인 디오고 알메이다(Diogo Almeida)는 오픈AI의 이러한 움직임이 '시스템 원(System One)' 방식, 즉 빠르고 직관적인 사고방식의 AI 구축이 미래임을 시사한다고 언급했습니다. 이는 기존 LLM이 상대적으로 느리고 비싸다는 단점을 보완하는 접근 방식입니다.
이러한 저비용 고속 의사결정 모델은 특히 AI 에이전트의 오작동을 감시하고 제어하는 데 중요한 역할을 할 것으로 보입니다. 오픈AI는 에이전트의 오작동 사례 발생 후, 별도의 모델을 사용하여 나쁜 행동을 감시하고 있지만, 이는 상당한 컴퓨팅 비용을 수반합니다. 사이버 보안 전문가 샤포르 나기브자데(Shapor Naghibzadeh)는 Jev와 같은 모델이 이러한 감시 비용을 획기적으로 줄일 수 있다고 제안했습니다. 그는 해커톤에서 Jev를 활용해 에이전트의 모든 행동을 주어진 작업과 비교하고, 위험한 행동은 차단하며, 의심스러운 행동은 검토를 위해 플래그를 지정하는 데모를 선보였습니다. 이 방식은 기존 LLM으로 372달러가 들던 감시 비용을 Jev로는 2.94달러로 절감할 수 있어, 모든 에이전트 행동에 대한 실시간 검토를 가능하게 하여 AI 에이전트의 신뢰성을 크게 향상시킬 잠재력을 가지고 있습니다.