인공지능(AI) 챗봇이 틀린 정보를 마치 사실인 양 확신에 차서 제시하는 이른바 '환각(hallucination)' 현상은 AI 기술의 상용화에 큰 걸림돌이 되어왔습니다. 이러한 문제에 대한 불만에서 출발한 새로운 서비스 AqqAI가 최근 공개되어 주목받고 있습니다. AqqAI는 AI 답변의 신뢰도를 사용자가 직관적으로 파악할 수 있도록 돕는 것을 목표로 합니다.
AqqAI는 사용자가 AI에 질문을 던지면, AI의 답변과 함께 해당 답변의 신뢰도를 시각적으로 보여주는 방식으로 작동합니다. 예를 들어, 답변 내용 중 사실과 다른 부분이 있거나 근거가 부족한 부분은 특정 색상으로 강조하여 표시하거나, 전반적인 신뢰 점수를 제공하는 식입니다. 이는 사용자가 AI의 답변을 맹목적으로 수용하기보다, 비판적인 시각으로 검토할 수 있는 기반을 마련해 줍니다. 개발자는 AI가 잘못된 답변을 내놓을 때조차 너무나 '확신에 찬' 태도를 보이는 것에 대한 좌절감에서 이 프로젝트를 시작했다고 밝히고 있습니다.
이러한 시도는 AI 기술이 더욱 폭넓게 활용되기 위해 반드시 해결해야 할 중요한 과제 중 하나인 '신뢰성' 문제를 정면으로 다룬다는 점에서 의미가 큽니다. 특히 의료, 법률, 금융 등 정확성이 생명인 분야에서 AI의 활용이 증가함에 따라, AI 답변의 신뢰도를 검증하고 보완하는 도구의 필요성은 더욱 커지고 있습니다. AqqAI와 같은 서비스는 AI의 잠재력을 최대한 활용하면서도, 그 한계와 위험을 관리할 수 있는 중요한 교두보 역할을 할 것으로 기대됩니다. 궁극적으로는 AI가 제공하는 정보에 대한 사용자의 신뢰를 높이고, AI의 오용을 방지하는 데 기여할 수 있습니다.