파리에 본사를 둔 AI 안전 스타트업 화이트 서클(White Circle)의 창업자 데니스 실로프(Denis Shilov)는 AI 기술을 핵산업과 유사한 수준의 엄격한 감독과 규제로 다뤄야 한다고 주장했습니다. 그는 AI 모델이 때때로 예측 불가능한 행동을 보이며, 이는 통제하기 어려운 위험을 초래할 수 있다고 경고했습니다. 실로프는 AI 개발 경쟁이 현대판 핵무기 경쟁과 같다고 비유하며, 안전을 최우선으로 고려해야 한다고 강조했습니다.
실로프는 2025년 화이트 서클을 설립하여 기업들이 AI 모델의 행동을 통제하고 안전하게 배포할 수 있도록 돕고 있습니다. 그는 AI 모델이 복잡해질수록 개발자가 의도하지 않은 방식으로 작동할 가능성이 커진다고 설명했습니다. 특히, 오픈AI(OpenAI)의 챗GPT(ChatGPT)나 구글(Google)의 딥마인드(DeepMind) 같은 대규모 언어모델(LLM)은 예측 불가능한 행동을 보일 수 있어 더욱 면밀한 감독이 필요하다는 입장입니다. 화이트 서클은 이러한 문제 해결을 위해 시드 투자로 1,000만 유로를 유치했으며, 딥마인드, 메타(Meta), 구글 등 주요 AI 기업 출신 전문가들이 함께하고 있습니다.
실로프는 AI 안전이 단순히 기술적 문제를 넘어 사회 전체의 안정과 직결된다고 보고 있습니다. 그는 AI가 인간의 가치를 이해하고 존중하며, 예측 불가능한 상황에서도 안전하게 작동하도록 보장하는 것이 중요하다고 말합니다. 이는 AI 기술의 잠재력을 최대한 활용하면서도 인류에게 해를 끼치지 않도록 신중하게 접근해야 한다는 의미입니다. 궁극적으로 AI 안전에 대한 논의는 기술 발전의 속도와 방향을 재고하고, 장기적인 관점에서 인류의 미래를 보호하기 위한 필수적인 과정이 될 것입니다.