미국 정보기관들이 자율형 인공지능(Agentic AI) 기술 도입에 있어 매우 신중한 태도를 보이고 있습니다. 스스로 목표를 설정하고 계획을 수립하며 실행하는 자율형 AI의 잠재력은 인정하지만, 통제력 상실과 예측 불가능한 행동으로 인한 국가 안보 위협을 가장 크게 우려하고 있습니다. 이는 AI 기술이 빠르게 발전함에 따라 정부 차원에서 기술의 혜택과 위험을 동시에 고려해야 하는 복잡한 과제를 보여줍니다.
연방뉴스네트워크(federalnewsnetwork.com) 보도에 따르면, 미 정보기관들은 자율형 AI가 정보 수집 및 분석 효율성을 크게 높일 수 있을 것으로 기대하고 있습니다. 예를 들어, 방대한 데이터를 자동으로 탐색하고 패턴을 식별하며, 복잡한 위협 시나리오를 예측하는 데 활용될 수 있습니다. 그러나 동시에, 이러한 시스템이 인간의 개입 없이 중요한 결정을 내리거나 민감한 정보를 처리할 경우 발생할 수 있는 오작동, 오용, 그리고 외부 공격에 대한 취약성을 심각하게 고려하고 있습니다. 특히, AI가 의도치 않게 잘못된 정보를 확산시키거나 적대 세력에게 악용될 가능성도 배제할 수 없다는 입장입니다.
이러한 신중론은 자율형 AI의 도입이 단순한 기술적 문제를 넘어 윤리적, 사회적, 그리고 국가 안보적 함의를 가진다는 인식을 반영합니다. 정보기관들은 AI 시스템이 항상 인간의 감독 아래 작동하고, 투명하며, 책임성을 담보할 수 있는 프레임워크를 구축하는 데 집중하고 있습니다. 이는 AI 기술이 가져올 혁신을 수용하면서도 잠재적 위험을 최소화하려는 노력의 일환으로, 향후 다른 국가 기관이나 민간 부문에서도 AI 도입 시 참고할 만한 중요한 선례가 될 것으로 보입니다.