미국 펜실베이니아주가 인공지능(AI) 챗봇이 의사 행세를 하며 무면허 의료 행위를 하는 것을 막기 위해 적극적으로 나서고 있음에도 불구하고, 여전히 많은 AI 챗봇이 의료 조언을 제공하고 있어 환자 안전에 대한 우려가 커지고 있습니다. 주 정부는 AI가 의료 전문가를 대체할 수 없으며, 면허 없는 의료 조언은 불법임을 명확히 하고 있지만, 기술의 빠른 발전 속도를 규제가 따라가지 못하는 실정입니다.
펜실베이니아주 의료위원회(Pennsylvania Board of Medicine)는 AI 챗봇이 의사나 의료 전문가처럼 행동하는 것을 금지하는 지침을 발표했습니다. 이는 AI가 진단, 치료 계획, 처방 등 면허가 필요한 의료 행위를 수행하는 것을 막기 위함입니다. 그러나 스포트라이트 PA(Spotlight PA)의 조사에 따르면, 여러 AI 챗봇이 여전히 특정 증상에 대한 진단을 내리거나 치료법을 추천하는 등 의료 조언을 제공하고 있는 것으로 나타났습니다. 이는 환자들이 부정확하거나 위험한 정보에 노출될 수 있음을 의미하며, 실제 의료 전문가의 개입 없이 AI에 의존할 경우 심각한 건강상의 결과를 초래할 수 있습니다.
이러한 상황은 AI 기술이 사회에 미치는 영향이 커짐에 따라 법적, 윤리적, 그리고 안전 문제에 대한 명확한 가이드라인이 시급함을 보여줍니다. AI 챗봇이 제공하는 정보의 신뢰성과 책임 소재를 명확히 하는 것은 물론, 일반 대중이 AI의 한계를 정확히 인지하도록 교육하는 것이 중요합니다. 펜실베이니아주의 사례는 AI 기술이 가져올 수 있는 긍정적인 변화와 동시에 잠재적 위험을 관리하기 위한 사회적 합의와 규제 마련이 얼마나 중요한지를 일깨워주고 있습니다. 앞으로 AI 기술의 발전과 함께 이를 안전하게 활용하기 위한 정책적 노력이 더욱 강화되어야 할 것입니다.