최근 프랑스와 이탈리아 연구진의 공동 연구 결과, 인공지능(AI)의 조언이 사람들의 비판적 사고를 억제하고 잘못된 정보에 대한 과도한 자신감을 유발하는 것으로 드러났습니다. AI의 도움을 받을 수 있을 때, 사람들은 '모른다'고 답할 의향이 44%에서 3%로 크게 줄었으며, 정답률은 27%에서 9%로 3분의 1 수준으로 급락했습니다. 반면, 자신의 답변에 대한 자신감은 30%에서 76%로 두 배 이상 높아졌습니다. 이는 AI가 제공하는 정보가 틀렸을 때조차도 사람들이 이를 맹신하게 되는 경향을 보여줍니다.
밀라노-비코카 대학교의 발레리오 카프라로(Valerio Capraro) 교수는 “사람들은 훨씬 더 나빠졌고, 정확도는 3분의 1에 불과했지만, 두 배나 더 자신감을 가졌다”고 설명했습니다. 연구팀은 AI 모델이 일반적으로 실패하는 질문들, 예를 들어 영화 속 시각적 세부 사항(팀 유니폼 색깔 등)을 의도적으로 사용했습니다. 이는 AI의 신뢰성에 대한 합리적인 위임으로 판단력 저하를 설명할 수 없도록 하기 위함이었습니다. 심지어 스스로는 정답을 맞힐 수 있었던 일부 참가자들도 AI에 질문한 후 오답을 선택하는 현상이 나타났습니다. 금전적 보상을 통해 '모른다'고 답할 의향이 3%에서 8%로, 정확도가 9%에서 16%로 소폭 상승했지만, AI가 없을 때의 기준선인 44%와 27%에는 훨씬 못 미쳤습니다.
이러한 현상은 앞서 와튼 스쿨(Wharton School) 연구진이 '인지적 항복(cognitive surrender)'이라고 명명했던 것과 일맥상통합니다. AI가 잘못된 답변을 제공해도 사람들이 이를 80%의 확률로 받아들이고, AI 없이 작업하는 사람들보다 더 높은 자신감을 보이는 것이죠. 이번 연구는 단순히 사람들이 잘못된 AI 답변을 신뢰하는 것을 넘어, AI의 존재 자체가 '내가 무엇을 모르는지 인식하는' 인지적 습관을 억제한다는 점을 명확히 보여줍니다. 카프라로 교수는 “인간에게 '모른다'고 말할 수 있는 능력은 우리 지식의 한계를 인정하는 매우 중요한 능력”이라며, 특히 비판적 사고 능력이 발달하기 전부터 이러한 시스템에 노출되는 아이들에 대한 우려를 표했습니다. 구글(Google)의 AI 검색 개편이나 커먼 센스 미디어(Common Sense Media)의 학생 대상 AI 위험 경고 역시 AI가 '모른다'고 말하지 않고 항상 답변을 내놓도록 설계된 방식이 인간의 학습과 판단에 미칠 부정적 영향을 시사합니다.