최근 인공지능(AI) 안전에 대한 논의가 주로 대규모 언어모델(LLM)의 통제 불능 위험에 집중되고 있지만, 물리적 AI 시스템의 안전 문제는 상대적으로 간과되고 있다는 지적이 나왔습니다. 테이프스트리 VC(Tapestry VC)의 파트너 오드리 밀러(Audrey Miller)는 로봇, 자율주행차 등 현실 세계와 상호작용하는 물리적 AI가 훨씬 더 직접적이고 심각한 위험을 초래할 수 있다고 경고하며, 이 분야의 안전 연구와 투자가 시급하다고 강조했습니다.
밀러는 물리적 AI가 물리적 환경에서 행동을 수행하기 때문에 오작동 시 인명 피해나 재산 손실 등 직접적인 결과를 초래할 수 있다고 설명했습니다. 예를 들어, 자율주행차가 보행자를 잘못 인식하거나 로봇 팔이 예상치 못한 움직임을 보일 경우 심각한 사고로 이어질 수 있습니다. 그녀는 2023년 물리적 AI 안전 관련 스타트업에 대한 투자가 1억 9천만 유로(약 2,800억 원)를 기록하며 2022년 7천 9백만 유로(약 1,100억 원) 대비 두 배 이상 성장했지만, 여전히 LLM 분야에 비하면 미미한 수준이라고 덧붙였습니다. 특히, 물리적 AI 시스템이 복잡한 상호작용과 예측 불가능한 환경에 노출될수록 안전성 확보가 더욱 어려워진다는 점을 지적했습니다.
이러한 물리적 AI 안전 분야는 향후 거대한 시장으로 성장할 잠재력을 가지고 있습니다. 밀러는 이 분야가 2030년까지 수십억 달러 규모의 시장이 될 것이라고 예측하며, 이미 센서퓨전(sensor fusion) 및 인지(cognition) 기술을 활용해 AI 시스템의 신뢰성을 높이는 스타트업들이 등장하고 있다고 언급했습니다. 궁극적으로 물리적 AI의 안전성 확보는 기술 수용도를 높이고, 산업 전반에 걸쳐 AI의 광범위한 적용을 가능하게 하는 핵심 요소가 될 것입니다. 따라서 지금부터 물리적 AI 안전에 대한 적극적인 투자와 연구가 이루어져야 할 때입니다.