영국 정부가 인공지능(AI) 기술의 급속한 발전과 함께 잠재적 위험에 대한 우려가 커지면서, 선도적인 AI 기업들을 대상으로 의무적인 안전 보고 시스템 도입을 검토하고 있습니다. AI 장관 카니시카 나라얀(Kanishka Narayan)은 개발자들이 점점 더 자율성을 띠는 AI 모델을 효과적으로 제어하기 위한 노력을 강화해야 한다고 강조하며, 정부가 AI 안전에 대한 감독을 확대할 것임을 시사했습니다. 이는 AI 기술의 혁신을 장려하면서도 사회적 안전망을 구축하려는 영국의 정책 방향을 보여줍니다.
이번 계획은 AI 모델의 예측 불가능한 행동, 오용 가능성, 그리고 사회 전반에 미칠 수 있는 광범위한 영향에 대한 정부의 우려를 반영합니다. 나라얀 장관은 특히 프론티어 AI(frontier AI) 개발사들이 자사 모델의 안전성을 입증하고 잠재적 위험을 완화하기 위한 구체적인 조치를 보고하도록 요구할 것으로 예상됩니다. 이는 AI 개발의 투명성을 높이고, 기업들이 기술 개발 단계부터 안전을 최우선으로 고려하도록 유도하려는 목적을 가지고 있습니다. 영국 정부는 이미 AI 안전 연구소(AI Safety Institute)를 통해 AI 모델의 안전성 평가 및 표준 개발에 적극적으로 나서고 있습니다.
이러한 움직임은 AI 기술이 사회에 미치는 영향이 커질수록 정부의 역할이 중요해진다는 인식을 보여줍니다. 의무적인 안전 보고는 AI 개발사들에게 새로운 규제 부담으로 작용할 수 있지만, 장기적으로는 AI 기술에 대한 대중의 신뢰를 구축하고 책임감 있는 혁신을 촉진하는 데 기여할 수 있습니다. 영국 정부의 이번 시도는 다른 국가들에게도 AI 규제 및 안전 표준 마련에 대한 중요한 선례가 될 수 있으며, 전 세계적으로 AI 거버넌스 논의를 가속화하는 계기가 될 것으로 보입니다.