최근 인공지능(AI)의 잠재적 위험에 대한 논의가 활발해지면서, AI 시스템을 유사시 강제로 중단시킬 수 있는 '킬 스위치(kill switch)' 도입 주장이 제기되고 있습니다. 하지만 워싱턴포스트(The Washington Post)는 이러한 접근 방식이 AI 안전 문제의 핵심을 비껴가고 있다고 비판했습니다. AI가 스스로 통제 불능 상태에 빠질 것이라는 가정보다는, AI를 설계하고 사용하는 인간의 의도와 책임에 더 주목해야 한다는 것이 주된 논지입니다.
킬 스위치 논의는 주로 AI가 인류에게 위협이 될 정도로 자율성을 획득할 경우를 상정합니다. 그러나 전문가들은 현재 AI 기술 수준에서 이러한 시나리오는 현실성이 낮다고 봅니다. 오히려 AI 시스템이 오작동하거나, 악의적인 목적으로 사용되거나, 편향된 데이터를 학습하여 사회적 불평등을 심화시키는 등, 개발 및 배포 과정에서 발생하는 문제들이 훨씬 더 시급하고 현실적인 위험으로 지적됩니다. 예를 들어, 자율 무기 시스템(autonomous weapons systems)이나 안면 인식 기술(facial recognition technology)의 오남용은 이미 현실에서 논란이 되고 있는 문제입니다.
결국 AI 안전의 핵심은 기술 자체의 통제보다는, 기술을 둘러싼 인간의 의사결정과 거버넌스(governance)에 있습니다. AI 개발자, 기업, 정부는 AI 시스템의 투명성(transparency), 책임성(accountability), 공정성(fairness)을 확보하기 위한 윤리적 가이드라인과 규제 프레임워크를 마련하는 데 집중해야 합니다. 킬 스위치와 같은 기술적 해결책은 일시적인 미봉책에 불과하며, AI가 사회에 미치는 광범위한 영향을 고려할 때, 기술적 접근을 넘어선 사회적, 제도적 논의가 필수적입니다. 이는 AI 기술의 건전한 발전과 인류의 복지를 동시에 추구하기 위한 근본적인 접근 방식이 될 것입니다.