최근 한 개발자가 OpenAI의 '선택형 AI(Decision API)' 모델을 활용하여 문자(자모) 단위로 번역문을 생성하는 흥미로운 실험 도구 'sysone_trans'를 공개했습니다. 이 도구는 기존 대규모 언어모델(LLM)이 문장 전체를 한 번에 생성하는 방식과 달리, 다음 문자나 한글 자모(초성, 중성, 종성)를 하나씩 선택하고 이어 붙여 번역문을 완성하는 방식을 채택했습니다. 이는 '시스템 원(System One)' 모델처럼 정해진 선택지 중 하나를 고르는 AI의 생성 가능성을 탐구하려는 시도입니다.
'sysone_trans'는 매 결정마다 원문 전체와 지금까지 생성된 번역문을 모델에 입력하고, 다음 출력 단위를 선택하게 합니다. 영어는 알파벳·숫자·문장부호 중 다음 문자를, 일본어는 히라가나·가타카나를, 한국어는 초성-중성-종성 순서로 자모를 선택하여 유니코드 규칙에 따라 합성하는 방식을 사용합니다. 특히 한국어의 경우 11,172개의 완성형 한글 글자를 모두 선택지로 넣는 대신 자모 단위로 분리하여 효율성을 높였습니다. 이 도구는 TypeScript와 Vercel AI SDK로 구현되었으며, OpenAI의 gpt-6-luna(decision api 기반) 모델을 호출하여 번역 시간, 선택 확률, 토큰 사용량 등을 JSON 형식으로 기록할 수 있습니다.
하지만 현재까지의 실험 결과는 '실패에 가깝다'고 개발자는 밝혔습니다. 예를 들어, "나는 사과를 좋아한다."는 "Attttsstttetteeee"로, "오늘 날씨가 좋다."는 "Attttttttt"와 같이 의미 없는 글자 반복이나 조기 종료되는 현상이 대부분이었습니다. 이는 현재의 프롬프트 구성과 문자 단위 선택 방식이 모델의 일반적인 번역 능력을 충분히 활용하지 못하고 있음을 보여줍니다. 이번 실험은 선택형 모델이 복잡한 생성 작업을 수행할 때 문맥 유지와 의미 전달에 어떤 한계가 있는지를 명확히 드러내며, 향후 이러한 모델을 활용한 생성 작업의 프롬프트 엔지니어링(prompt engineering)과 설계 방향에 중요한 시사점을 제공합니다.