미국 최대 비영리 의료기관 중 하나인 카이저 퍼머넌트(Kaiser Permanente)의 상담 및 트리아지(Triage) 간호사들이 AI 기반의 성과 관리 시스템이 환자 돌봄을 저해하고 있다고 강하게 비판하고 나섰습니다. 이들은 15분 이상 통화, 통화 간격, 지침 준수 여부 등을 추적하는 시스템이 간호사의 전문적 판단을 위축시키고 환자에게 필요한 충분한 시간을 제공하기 어렵게 만든다고 주장합니다. 특히 2024년 시험 도입된 AI는 간호사의 공감 능력과 목소리 톤까지 평가했으며, 간호사들은 AI가 업무 맥락을 이해하지 못한 채 잘못된 점수를 매겼다고 지적했습니다.
간호사들은 자살 위험 환자, 복합 증상 환자, 통역이 필요한 환자 등 장시간 상담이 불가피한 경우에도 15분 통화 제한 기준 때문에 경영진의 비판이나 성과 평가 면담을 의식해야 한다고 토로합니다. 바쁜 시간에는 통화 후 기록 및 회복 시간이 30초 이하로 줄어들어 중요한 단서를 놓치거나 정서적 소진을 겪는다는 우려도 나옵니다. 카이저 측은 평균 처리 시간으로 성과를 평가하지 않으며 모든 도구에 사람의 검토와 감독이 있다고 반박했지만, 구체적인 시스템 운영 방식은 공개하지 않았습니다. 노조는 25,000명 규모의 계약 협상에서 AI 감시 문제를 핵심 의제로 다루고 있으며, 캘리포니아 의회 역시 의료진 보호 및 감정 예측 AI 제한 등을 담은 법안을 검토 중입니다.
이러한 AI 기반 감시 시스템은 단순히 효율성 증대를 넘어 의료 서비스의 본질적인 가치인 '인간적 돌봄'을 훼손할 수 있다는 중요한 문제를 제기합니다. 간호사들은 AI가 공감과 위로가 필요한 환자에게 정해진 지침 이상의 인간적 교류를 제공하기 어렵게 만들고, 이는 결국 환자가 기대하는 돌봄의 질을 떨어뜨릴 수 있다고 우려합니다. 의료 현장에서의 스트레스와 번아웃은 환자 안전과 직결될 수 있으므로, 기술 도입 시에는 효율성뿐만 아니라 의료진의 전문성과 환자의 복합적인 요구를 존중하는 균형 잡힌 접근이 필수적입니다. 이번 논란은 AI가 인간의 감정과 판단이 중요한 영역에 도입될 때 발생할 수 있는 윤리적, 실질적 문제에 대한 심도 깊은 논의가 필요함을 보여줍니다.