실시간 음성 인공지능(AI) 에이전트가 긴 대화에서 맥락을 잊어버리거나 일관성을 잃는 문제는 오랫동안 한계로 지적되어 왔습니다. 이러한 문제를 해결하기 위해 워터(Waterr)는 AI가 사용자 발화 중에도 '내부 독백(inner monologue)'을 통해 사고하고 추론할 수 있도록 돕는 '모놀로그(Monologue)' 아키텍처를 발표했습니다. 이 기술은 실시간 음성 모델의 지연 시간(latency)을 희생하지 않으면서도, 대화의 깊이와 일관성을 획기적으로 향상시킵니다.
모놀로그는 '슬롯 타입 텍스트 사이드카(slot-typed text-side sidecar)'라는 병렬 처리 방식을 사용합니다. 이는 실시간 음성 모델과 별개로 작동하며, 사용자가 말하는 동안에도 AI가 이전 대화 내용을 바탕으로 다음 응답을 미리 계획하고 추론할 수 있게 합니다. 워터는 이 기술이 기존의 최첨단 음성 AI 모델들이 장시간 대화에서 겪는 병목 현상, 즉 규칙을 잊거나 일관된 흐름을 유지하지 못하는 문제를 해결한다고 설명합니다. 공개된 벤치마크 결과에 따르면, 모놀로그는 기존 '사고형(Thinking-tier)' 시스템 대비 62% 낮은 비용으로 '즉각형(Instant-tier)' 지연 시간에서 '사고형' 대화 품질을 제공하며, AudioMC 리더보드에서 경쟁사 대비 21.3점 높은 점수를 기록했습니다. API 형태로 분당 0.03달러의 고정 요금으로 제공됩니다.
이러한 발전은 고객 서비스, 회의록 작성, 교육 등 장시간 고난도 대화가 필요한 다양한 분야에서 AI 음성 에이전트의 활용 가능성을 크게 확장할 것입니다. AI가 단순히 즉각적인 반응을 넘어, 복잡한 지시를 기억하고 일관된 정보를 제공하며, 심지어 대화 도중 사용자의 요청을 편집하거나 요약하는 능력까지 갖추게 됩니다. 이는 AI가 인간의 대화 방식에 더욱 가까워지면서, 더욱 자연스럽고 생산적인 상호작용을 가능하게 한다는 점에서 중요한 의미를 가집니다. 기업들은 더 적은 비용으로 고품질의 AI 기반 대화 솔루션을 도입할 수 있게 될 것입니다.