KT가 자체 개발한 인공지능(AI) 모델 라우팅 기술로 글로벌 평가에서 종합 2위를 달성하며 기술력을 인정받았습니다. 이 기술은 다양한 AI 모델 중에서 특정 질문이나 요청에 가장 적합한 모델을 실시간으로 찾아 연결해주는 역할을 합니다. 이를 통해 AI 서비스의 응답 속도와 정확도를 동시에 향상시키는 것이 목표입니다.
이번 평가는 글로벌 AI 기술 검증 플랫폼인 'AI 벤치마크(AI Benchmark)'에서 진행되었으며, KT의 AI 라우팅 기술은 여러 AI 모델을 효율적으로 관리하고 활용하는 능력에서 높은 점수를 받았습니다. 특히, 복잡한 질의에도 불구하고 최적의 모델을 빠르게 식별하여 사용자에게 정확한 답변을 제공하는 데 강점을 보였습니다. 이는 대규모 언어모델(LLM) 기반 서비스의 성능과 직결되는 중요한 요소입니다.
KT의 이번 성과는 AI 서비스 운영의 효율성을 크게 개선할 수 있는 잠재력을 보여줍니다. 여러 AI 모델을 동시에 운용할 때 발생하는 비용과 복잡성을 줄이고, 사용자 경험을 향상시키는 데 기여할 수 있습니다. 앞으로 KT는 이 기술을 자사의 AI 컨택센터(AICC) 등 다양한 AI 서비스에 적용하여 경쟁력을 강화하고, 국내외 AI 시장에서 입지를 넓혀나갈 계획입니다.