최근 AI 에이전트의 예측 불가능성이 화두가 되는 가운데, 라플라스 인텔리전스(Laplace Intelligence)가 물리적 AI의 안전성 확보를 위한 혁신적인 접근 방식을 선보였습니다. 이들은 로봇이나 자율주행차가 실제 환경에 배치되기 전, AI 에이전트가 가상 시뮬레이션에서 시스템의 취약점을 찾아내도록 하는 '자동화된 레드팀(automated red-teaming)' 기술을 개발했습니다. 이는 AI가 AI를 테스트하여 잠재적 위험을 사전에 발견하고 수정하는 것을 목표로 합니다.
미시간대학교(University of Michigan) 스핀오프인 라플라스는 공동 창업자 하위 선(Howie Sun) CEO와 헨리 리우(Henry Liu) 수석 과학자가 2023년 네이처(Nature)지에 자율주행 AI 테스트 관련 논문을 발표하며 시작되었습니다. 이들의 핵심 기술은 엔비디아(Nvidia)의 코스모스(Cosmos) 같은 AI 세계 시뮬레이션 플랫폼을 기반으로 실제 세계를 정교하게 재구성한 고충실도 시뮬레이션 환경입니다. 구글 스트리트 뷰(Google Street View) 이미지와 실제 지도 데이터를 결합하여 애리조나 고속도로부터 파리 보행자 교차로까지 실제와 같은 환경을 구현하며, 개발자는 언어 프롬프트로 실시간 교통 상황 등을 변경할 수 있습니다. 이 시뮬레이션에서는 환경뿐 아니라 다른 차량이나 보행자 등 '행위자(actor)'들의 반응까지 상호작용적으로 시뮬레이션되어, 단순한 렌더링을 넘어 실제와 같은 복잡한 상황을 만들어냅니다.
라플라스의 진정한 차별점은 AI 에이전트가 스스로 '코너 케이스(corner case, 예측하기 어려운 특이 상황)'를 설계하고 탐색하는 능력입니다. 뉴스나 경찰 보고서 등 다양한 정보를 활용해 자율주행 시스템의 약점을 능동적으로 찾아내며, 이는 기존의 인간 주도 또는 녹화된 영상 기반 테스트 방식의 한계를 뛰어넘습니다. 현재 대부분의 자율주행 개발사들은 녹화된 영상을 시뮬레이션으로 변환하거나 인간이 직접 시나리오를 고안하는 방식에 의존하지만, 라플라스는 AI가 스스로 학습하고 도전하는 방식으로 테스트 과정을 자동화합니다. 특히 일반 로봇(generalized robotics) 분야는 데이터가 부족하고 예측 불가능한 상황이 많아 이러한 AI 기반 테스트의 중요성이 더욱 커질 것으로 예상됩니다.
라플라스는 이미 이스즈(Isuzu), 봇 오토(Bot Auto) 등 자율주행 트럭 회사와 엔비디아를 고객으로 확보하며 수익을 창출하고 있으며, 샌호세(San Jose)시의 스마트 도시 파일럿 프로젝트에도 참여하는 등 빠르게 성장하고 있습니다. 이들의 기술은 자율주행차뿐 아니라 물류 창고용 휴머노이드 로봇 등 다양한 물리적 AI 분야로 확장될 잠재력을 가지고 있습니다. 궁극적으로 라플라스는 물리적 AI의 안전성을 보장하는 신뢰할 수 있는 기반을 구축하여 고객, 보험사, 규제 기관 모두에게 안심을 제공하는 것을 목표로 합니다.