AI의 조언이 인간의 판단력에 미치는 부정적인 영향에 대한 우려가 커지고 있습니다. 최근 프랑스와 이탈리아 3개 대학의 공동 연구 결과에 따르면, AI 조언에 접근한 참가자들은 스스로 답했을 때보다 정답률이 현저히 낮아졌음에도 불구하고, 자신의 판단에 대한 자신감은 오히려 크게 상승하는 경향을 보였습니다. 이는 AI가 제공하는 정보의 정확성과 무관하게 사용자가 AI의 답변을 맹신하게 되는 '인지적 항복(cognitive surrender)' 현상과 연결됩니다.
연구진은 AI가 일반적으로 틀리는 영화의 시각적 세부 정보에 대한 질문을 사용하고, 의도적으로 오답을 내는 AI 모델(Step 3.5 Flash)을 활용하여 실험을 진행했습니다. 그 결과, AI 조언을 받은 참가자들은 '모른다'고 답하는 비율이 44%에서 3%로 급감했으며, 정확도는 27%에서 9%로 하락했습니다. 반면, 자신의 답변에 대한 자신감은 30%에서 76%로 두 배 이상 상승했습니다. 심지어 일부 참가자는 혼자였다면 정답을 맞힐 수 있었음에도 AI에 질문한 뒤 오답을 선택하는 모습을 보였습니다. 금전적 보상을 통해 '모른다'는 응답과 정확도가 일부 개선되기는 했지만, AI를 사용하지 않은 기준치에는 크게 못 미쳤습니다.
이러한 결과는 AI의 가용성 자체가 인간이 자신의 지식 한계를 인식하는 습관을 약화시킬 수 있음을 시사합니다. 특히 비판적 사고 능력이 발달하기 전인 어린이와 학생들이 AI 시스템과 함께 성장할 경우, 잘못된 정보를 비판 없이 수용하고 자신의 무지를 인정하지 않는 태도를 학습할 수 있다는 점에서 교육적 우려가 제기됩니다. 구글(Google)의 AI 검색 개편처럼 AI가 생성한 요약으로 링크를 대체하는 방식은 이러한 위험을 더욱 증폭시킬 수 있습니다. 결국 AI가 '모른다'고 말하지 않고 항상 답변을 내놓도록 설계된다면, 인간 역시 이와 같은 행동을 학습하게 될 가능성이 높습니다. 이는 정보의 진위를 스스로 판단하고 검증하는 능력의 중요성을 다시 한번 강조합니다.