최근 악시오스(Axios)의 한 기자가 대규모 언어모델(LLM) 기반의 인공지능(AI) 챗봇을 실제 업무에 적극적으로 활용하며 겪은 솔직한 경험담을 공개했습니다. 기자는 AI가 단순 반복 작업이나 정보 요약 등에서 상당한 생산성 향상을 가져왔다고 인정하면서도, 동시에 AI의 불안정성과 예측 불가능한 '환각(hallucination)' 현상으로 인해 겪었던 어려움들을 상세히 설명했습니다.
기자는 AI 챗봇이 때로는 완벽하고 유용한 정보를 제공했지만, 다른 한편으로는 사실과 다른 내용을 마치 진실인 것처럼 제시하는 '환각'을 일으켜 검증에 더 많은 시간을 할애해야 했다고 밝혔습니다. 특히, AI가 생성한 초안이나 아이디어를 그대로 받아들이기보다는 항상 비판적으로 재검토하고 수정하는 과정이 필수적이었다고 강조했습니다. 이러한 경험은 AI가 아직은 인간의 감독과 개입 없이는 완벽하게 신뢰하기 어렵다는 점을 명확히 보여줍니다.
이번 경험은 AI 기술이 일상 업무에 깊숙이 침투하면서 우리가 마주하게 될 현실적인 도전 과제들을 시사합니다. AI는 강력한 도구이지만, 그 한계를 명확히 인지하고 적절히 활용하는 지혜가 필요합니다. 특히, 중요한 의사결정이나 사실 확인이 필요한 영역에서는 AI의 답변을 맹신하기보다 항상 교차 검증하는 습관을 들여야 할 것입니다. 이는 AI 시대에 요구되는 새로운 형태의 디지털 리터러시(digital literacy)라고 볼 수 있습니다.