AI 챗봇이 그럴듯하지만 사실이 아닌 정보를 지어내는 현상, 즉 환각(hallucination)은 오랫동안 대규모 언어모델(LLM)의 상용화에 큰 걸림돌이었습니다. 이러한 문제를 해결하겠다고 나선 스타트업 위스퍼(Whisper)가 새로운 접근 방식을 제시하며 업계의 이목을 끌고 있습니다. 위스퍼는 LLM이 답변을 생성하기 전에 '생각하는 시간'을 부여하여 내부적으로 여러 번의 사실 확인 과정을 거치게 함으로써 환각을 근본적으로 제거할 수 있다고 주장합니다.
위스퍼의 기술은 LLM이 질문을 받으면 즉시 답변을 내놓는 대신, 먼저 질문의 핵심을 파악하고 관련 정보를 검색하며, 여러 대안적인 답변을 스스로 생성해 비교 검증하는 과정을 거칩니다. 이 과정에서 모델은 자체적으로 '확실성 점수'를 매겨 가장 신뢰할 수 있는 답변을 선택하도록 훈련됩니다. 이는 마치 사람이 중요한 결정을 내리기 전에 여러 정보를 찾아보고 숙고하는 방식과 유사하며, 기존의 검색 증강 생성(RAG) 방식보다 한층 더 진화된 내부 검증 메커니즘을 포함합니다. 위스퍼의 공동 창업자이자 CEO인 닉 로즈(Nick Rose)는 이러한 접근 방식이 환각률을 획기적으로 낮출 수 있다고 강조했습니다.
이러한 기술은 기업 환경에서 AI의 신뢰성을 확보하는 데 결정적인 역할을 할 수 있습니다. 금융, 의료, 법률 등 정확성이 필수적인 분야에서는 AI 챗봇의 환각이 치명적인 결과를 초래할 수 있기 때문입니다. 위스퍼의 솔루션이 성공적으로 상용화된다면, 기업들은 AI를 더욱 안심하고 핵심 업무에 도입할 수 있게 될 것입니다. 이는 AI 기술의 광범위한 확산을 가속화하고, 사용자들에게는 더욱 신뢰할 수 있는 AI 경험을 제공할 중요한 전환점이 될 것으로 기대됩니다.