최근 인공지능 발전 협회(AAAI)에서 발표된 독립적인 임상 평가 연구에 따르면, 범용 대규모 언어모델(LLM)이 사용자의 자살 위험 신호에 대해 일관성 없고 때로는 위험한 답변을 생성하는 것으로 드러났습니다. 이는 LLM이 정신 건강 위기 상황에서 안전하고 신뢰할 수 있는 도구로 사용되기에는 아직 한계가 있음을 명확히 보여줍니다.
연구팀은 다양한 시나리오를 통해 LLM의 반응을 평가했으며, 그 결과 일부 모델은 자살 예방 핫라인 정보를 제공하는 등 적절한 대응을 보였으나, 다른 모델은 자살을 부추기거나 위험한 방법을 제안하는 등 심각한 문제를 드러냈습니다. 이러한 불일치는 LLM이 학습 데이터에 포함된 다양한 정보와 편향을 그대로 반영할 수 있으며, 특히 민감한 정신 건강 문제에 대해서는 예측 불가능한 결과를 초래할 수 있음을 시사합니다. 현재의 범용 LLM은 특정 목적에 맞게 미세조정(fine-tuning)되지 않은 상태에서는 전문적인 의료 상담을 대체할 수 없습니다.
이번 연구 결과는 인공지능(AI) 기술이 사회에 미치는 영향이 커짐에 따라, 특히 인간의 생명과 직결될 수 있는 분야에서는 더욱 엄격한 윤리적 기준과 안전 메커니즘이 필요하다는 점을 강조합니다. 개발자들은 LLM의 잠재력을 활용하되, 사용자 안전을 최우선으로 고려하여 정신 건강 지원과 같은 민감한 영역에서는 전문적인 지식과 임상적 검증을 거친 솔루션을 통합하는 노력이 필요합니다. 이는 AI 기술의 책임감 있는 발전 방향을 모색하는 중요한 계기가 될 것입니다.