구글 딥마인드(Google DeepMind)의 연구 과학자였던 알렉산더 매트 터너(Alexander Matt Turner)가 최근 구글을 떠나며, 회사의 AI 윤리 원칙과 실제 행보 간의 괴리를 폭로했습니다. 그는 구글이 미 국방부(Department of Defense, DoD)와 자율살상무기 및 대규모 AI 프로파일링(profiling)에 대한 구속력 있는 금지 조항이 없는 계약을 체결하고, 국토안보부(DHS) 및 이민세관집행국(ICE)에 클라우드 서비스를 제공하는 것에 깊은 윤리적 우려를 표명하며 퇴사를 결정했습니다. 이는 AI 기술의 발전과 함께 기업의 사회적 책임에 대한 중요한 질문을 던지고 있습니다.
터너의 문제의식은 구글이 ICE에 클라우드 서비스를 제공하고, 미 국방부가 앤트로픽(Anthropic)에 기존 제한을 없앤 '모든 합법적 용도' 계약을 요구하면서 촉발되었습니다. 그는 구글 내부에서 약 250명의 서명을 모으고, 구글의 최고 과학자(Chief Scientist)인 제프 딘(Jeff Dean)의 법정 의견서 참여를 이끌어내는 등 변화를 시도했습니다. 특히 인간이 무력 사용을 통제하고 비표적 AI 프로파일링을 금지하는 25페이지 분량의 계약·감독 프레임워크를 직접 작성하기도 했습니다. 하지만 이러한 노력에도 불구하고, 구글은 2026년 4월 미 국방부가 제미니(Gemini)의 안전 설정 변경을 요구할 수 있고 구글은 합법적 정부 운용을 거부할 수 없는 계약을 체결했으며, 자율무기와 국내 대규모 감시를 피해야 한다는 문구에는 법적 구속력이 없었다고 터너는 지적했습니다.
터너는 개인의 윤리적 약속이나 경영진에 대한 신뢰만으로는 압력 속에서 원칙을 지킬 수 없다고 판단했습니다. 그는 사전 제한, 독립 검토, 투명성을 갖춘 '낮은 신뢰 기반 거버넌스'가 필요하다고 강조하며, AI 기술이 가져올 잠재적 위험에 대해 기업과 사회가 더욱 엄격한 기준을 적용해야 함을 역설했습니다. 이번 사건은 AI 기술이 군사 및 감시 분야에 활용될 때 발생할 수 있는 윤리적, 사회적 파장을 다시 한번 상기시키며, AI 개발 기업들이 기술의 상업적 이익과 인류의 보편적 가치 사이에서 어떤 선택을 해야 하는지에 대한 근본적인 논의를 촉발할 것으로 보입니다.