오픈AI(OpenAI) 공동 발명자 디오고 알메이다(Diogo Almeida)가 2년간의 비공개 개발 끝에 '젭(Jev)'이라는 새로운 인공지능 모델을 타입세이프 AI(TypeSafe.ai)를 통해 공개했습니다. 젭은 기존 거대 언어모델(LLM)이 글을 생성하는 방식과 달리, 텍스트와 미리 정해진 판단 기준을 받아 분류, 점수, 예/아니오 확률 등 구조화된 답변을 반환하는 데 특화되어 있습니다. 이는 지능적인 모델의 등장에도 불구하고 실제 업무 자동화가 더딘 이유에 대한 질문에서 출발했으며, AI에 코드의 속성을 부여하여 지능형 소프트웨어의 폭발적 증가를 촉진하는 것을 목표로 합니다.
젭은 '시스템 원(System One)' 모델로 불리며, 카네만(Kahneman)의 빠르고 직관적인 판단인 시스템 1(System 1)에서 이름을 따왔습니다. LLM이 생각을 풀어내는 데 초점을 둔다면, 젭은 정해진 기준에 따라 결정을 내리는 데 집중합니다. 주요 기능으로는 최대 255개 선택지 중 하나를 고르는 '선택(Choice)', 2~10단계 척도로 평가하는 '점수(Score)', 예/아니오 질문에 0~1 사이의 확률로 답하는 '예/아니오(Noul)'가 있습니다. 특히, 한 번의 API 호출로 여러 질문을 독립적으로 병렬 처리할 수 있어 효율적입니다. 타입세이프 AI는 젭이 프런티어 LLM 대비 최대 193배 빠르고 445배 저렴하다고 밝히며, 이는 학습에 RLCD(Reinforcement Learning for Calibrated Decisions)를 사용하여 확률의 신뢰도를 높이고 속도와 비용을 개선한 결과입니다.
젭은 특히 영업 및 마케팅(GTM) 업무에서 반복적인 판단을 자동화하는 데 강력한 도구가 될 수 있습니다. 예를 들어, 잠재 고객의 직함이 구매 담당자에 해당하는지, 회사가 이상적인 고객 프로필(ICP)에 맞는지, 채용 공고가 제품 수요 신호인지 등을 판단하는 데 활용됩니다. 이는 단순한 데이터 조회로는 어렵지만, LLM처럼 글을 생성할 필요는 없는 중간 단계의 의사결정에 적합합니다. 실무 적용 시에는 명확한 판단 기준과 행동별 신뢰도 임계값 설정이 중요하며, 불확실한 결과는 사람의 검토를 거치도록 하여 정확성을 높이고 비용을 절감할 수 있습니다.
젭의 등장은 LLM이 글쓰기를 담당하고 젭이 판단을 맡는 보완적인 AI 활용 구성을 제시합니다. 이는 기존 LLM의 '환각(hallucination)' 문제나 후처리 필요성을 줄여주며, 구조화된 응답을 통해 개발 효율성을 높일 수 있습니다. 젭은 특히 대규모 데이터를 처리해야 하는 GTM 엔지니어에게 유용하며, 유료 데이터 보강이나 LLM 이메일 작성과 같은 고비용 작업을 필요한 경우에만 실행하도록 제어하여 전체적인 운영 비용을 크게 절감할 수 있습니다. AI 기술이 단순히 콘텐츠 생성에 머무르지 않고, 비즈니스 의사결정의 핵심 단계로 확장될 수 있음을 보여주는 중요한 사례입니다.