사용자가 메시지를 입력하는 동안 인공지능(AI)이 실시간으로 답변을 생성하는 새로운 챗봇 인터페이스 'Don't Hit Send'가 등장했습니다. 이 시스템은 기존 챗봇과 달리 '전송(Send)' 버튼이 없으며, 사용자가 타이핑을 멈추는 순간 AI가 전체 초안을 바탕으로 답변을 시작합니다. 이는 대화의 흐름을 자연스럽게 이어가며 사용자 경험을 크게 개선할 수 있는 잠재력을 가지고 있습니다.
'Don't Hit Send'의 핵심은 독특한 사용자 경험(UX) 설계에 있습니다. 사용자가 약 350밀리초(ms) 동안 타이핑을 멈추면, 시스템은 현재까지 입력된 전체 초안을 가지고 AI 모델에 채팅 완성(chat completion) 요청을 보냅니다. 만약 사용자가 다시 타이핑을 시작하면, 이전 답변이 아직 생성 중이고 텍스트를 내보내지 않았다면 해당 요청을 즉시 중단하고 새로운 요청을 시작합니다. 이미 텍스트를 생성한 답변은 그대로 유지되고, 새로운 답변이 그 아래에 쌓이는 방식으로 작동합니다. 이는 마치 '고스트 텍스트(ghost-text)'처럼 대화에 초점을 맞춰 실시간으로 반응하는 형태입니다. 이 프로젝트는 스칼래티스(Scalattice)의 API를 기본으로 사용하지만, OpenAI 호환 API라면 어떤 모델이든 연동할 수 있도록 설계되었습니다.
이러한 접근 방식은 AI와의 상호작용을 더욱 유동적이고 직관적으로 만듭니다. 사용자는 전송 버튼을 누르고 답변을 기다리는 시간 없이, 마치 옆에서 누군가 함께 생각하며 답을 제시하는 듯한 느낌을 받게 됩니다. 이는 특히 아이디어 브레인스토밍, 글쓰기 보조, 코드 작성 등 실시간 피드백이 중요한 작업에서 생산성을 크게 향상시킬 수 있습니다. 개발자 관점에서는 여러 개의 단방향 스트림(unary streams)을 중첩하여 이전 요청을 효율적으로 중단하고 새로운 요청을 시작하는 기술적 구현이 주목할 만합니다. 이 기술은 AI 챗봇의 미래 인터페이스 디자인에 중요한 영감을 제공할 것으로 기대됩니다.