인공지능(AI)이 때때로 잘못된 정보를 마치 사실인 양 확신에 차서 제시하는 현상, 이른바 '환각(hallucination)'은 AI 기술이 실제 산업 현장에 적용되는 데 있어 가장 큰 난관 중 하나로 꼽힙니다. 이러한 AI의 '과도한 자신감'은 의료, 금융, 자율주행 등 높은 신뢰성이 요구되는 분야에서 치명적인 오류를 유발할 수 있기 때문입니다. 이 문제를 해결하기 위해 앤드류 응(Andrew Ng) 교수가 설립한 2억 달러 규모의 스타트업 '랜딩AI(Landing AI)'가 새로운 접근 방식을 제시하며 주목받고 있습니다.
랜딩AI는 AI 모델이 내린 결정의 '불확실성(uncertainty)'을 정량적으로 측정하고 시각적으로 표현하는 기술을 개발했습니다. 기존 AI 모델들은 단순히 예측 결과만을 보여주지만, 랜딩AI의 솔루션은 예측과 함께 해당 예측이 얼마나 신뢰할 수 있는지에 대한 정보를 함께 제공합니다. 예를 들어, 이미지 분류 AI가 특정 이미지를 '고양이'로 분류했을 때, 이 예측에 대한 AI의 내부적인 확신도(confidence score)를 함께 보여주는 방식입니다. 이는 사용자가 AI의 판단을 맹목적으로 수용하기보다, 불확실성이 높은 경우에는 추가 검증을 할 수 있도록 돕습니다. 특히 제조 분야의 시각 검사(visual inspection) 등에서 미세한 결함을 AI가 놓치지 않도록 보완하는 데 유용하게 활용될 수 있습니다.
이러한 불확실성 측정 기술은 AI 모델의 투명성과 신뢰도를 획기적으로 높여줄 수 있습니다. AI가 '모른다'는 것을 인정하고 그 정도를 표현할 수 있게 되면, 인간 작업자는 AI의 한계를 명확히 인지하고 중요한 의사결정 과정에서 AI를 보다 현명하게 활용할 수 있게 됩니다. 이는 결국 AI 기술이 더욱 광범위한 산업 분야에 안전하고 효과적으로 도입될 수 있는 기반을 마련하며, AI의 상용화와 대중화를 가속화하는 중요한 전환점이 될 것입니다. 랜딩AI의 접근 방식은 AI가 완벽하지 않음을 인정하고, 그 불완전성을 관리하는 새로운 패러다임을 제시한다는 점에서 큰 의미를 가집니다.