ChatGPT 개발자 중 한 명이었던 디오고 알메이다(Diogo Almeida)가 OpenAI를 떠나 설립한 스타트업 타입세이프 AI(TypeSafe AI)가 새로운 인공지능(AI) 모델 'Jev'를 공개하며 개발자들 사이에서 큰 반향을 일으키고 있습니다. Jev는 기존 대규모 언어모델(LLM)과 달리 인간 언어를 출력하지 않고 '보정된 결정(calibrated decisions)'이라는 확률값을 제공함으로써, 소프트웨어 자동화에 필요한 지능을 훨씬 저렴하고 빠르게 구현할 수 있는 새로운 길을 제시합니다.
알메이다는 ChatGPT 개발과 인간 피드백 기반 강화 학습(RLHF) 기법 발명에 기여했지만, 언어에 최적화된 LLM이 컴퓨터 자동화에는 비효율적이라고 판단했습니다. 이에 그는 2년 전 OpenAI를 떠나 타입세이프 AI를 설립했고, 이번에 공개된 Jev는 텍스트 대신 확률을 출력하는 트랜스포머 기반 모델입니다. 이 모델은 출력이 미리 정의되어 환각(hallucination) 현상이 없으며, 출력 토큰은 무료이고 입력 토큰은 100만 단위가 아닌 10억 단위로 과금되어 비용 효율성이 매우 높습니다. 실제로 베르셀(Vercel)의 소프트웨어 엔지니어 프라닛 샤르마(Pranit Sharma)는 안전성 검토 분류 작업에서 OpenAI 모델 대신 Jev를 사용했을 때 5~18배 빠른 속도와 더 높은 정확도를 얻었다고 밝혔습니다. 또한 브리오 AI(Bryo AI)의 CTO 니킬 무돌카(Nikhil Mudholkar)는 비즈니스 이메일 분류 테스트에서 Jev가 제미니(Gemini)보다 비용은 10~20배 저렴하면서도 '신뢰도 점수(confidence scores)'를 제공하여 자동화 워크플로우에 이상적이라고 평가했습니다.
Jev의 등장은 AI 활용의 패러다임을 바꿀 잠재력을 가지고 있습니다. 저렴한 비용과 빠른 속도 덕분에 LLM의 특정 사용 사례를 대체하거나, LLM 에이전트의 오작동을 감시하는 '스마트 체크' 역할, 그리고 작업 부하에 따라 적절한 모델을 실시간으로 배정하는 '모델 라우팅' 등 다양한 자동화 시나리오에 적용될 수 있습니다. 알메이다는 19세기 경제학자 윌리엄 스탠리 제본스(William Stanley Jevons)의 이름을 따 모델명을 지었는데, 이는 비용이 낮아질수록 상품의 사용량이 급증한다는 '제본스의 역설'처럼 AI 지능의 비용이 낮아지면 그 활용이 폭발적으로 늘어날 것이라는 기대를 담고 있습니다. Jev는 직관(intuition)에 집중하는 '시스템 원(System One) 모델'로, 합성 데이터(synthetic data)와 '보정된 결정 기반 강화 학습(reinforcement learning from calibrated decisions)'이라는 독자적인 훈련 기법을 사용하며, 이는 알메이다가 평생 최고의 선택이었다고 자부할 만큼 효과적이라고 합니다. Jev와 같은 모델의 등장은 값비싼 LLM에 의존하지 않고도 '스마트 소프트웨어'가 광범위하게 배포되는, 초기 인터넷과 같은 분산된 AI 시대를 열 가능성을 보여줍니다.