알리바바 클라우드(Alibaba Cloud)가 고객 지원 시스템에 대규모 언어모델(LLM)을 도입한 후, LLM의 실제 사용량을 점진적으로 줄이고 있는 것으로 알려졌습니다. 이는 LLM이 모든 고객 문의를 효율적으로 처리할 것이라는 초기 기대와 달리, 복잡하고 미묘한 문제 해결에는 여전히 인간 상담사의 전문성이 필수적임을 시사합니다.
알리바바 클라우드는 LLM을 활용해 고객 문의 티켓을 분류하고, 간단한 질문에 대한 답변을 자동화하는 데 성공했습니다. 하지만 기술 지원과 같이 심층적인 분석과 맞춤형 해결책이 필요한 경우에는 LLM이 제공하는 일반적인 답변만으로는 한계가 명확했습니다. 결국, 고객 만족도를 높이고 정확한 문제 해결을 위해 LLM은 초기 분류 및 단순 응대 역할에 집중하고, 복잡한 케이스는 숙련된 상담사에게 전달하는 방식으로 운영 전략을 조정한 것입니다.
이러한 알리바바 클라우드의 사례는 기업들이 LLM을 고객 지원에 도입할 때 현실적인 기대치를 설정하고, 인간과 AI의 역할을 명확히 구분해야 함을 보여줍니다. LLM은 반복적이고 정형화된 작업에서 뛰어난 효율성을 발휘하지만, 공감 능력, 비정형적 문제 해결, 그리고 미묘한 상황 판단이 요구되는 영역에서는 여전히 인간의 개입이 중요합니다. 따라서 LLM은 인간 상담사를 대체하기보다는, 그들의 업무 부담을 줄이고 더 중요한 문제에 집중할 수 있도록 돕는 보조 도구로서의 가치가 크다고 할 수 있습니다.