생성형 인공지능(GenAI) 기술이 로봇 제어 시스템에 도입되면서, 로봇의 행동이 예측 불가능해지는 새로운 안전성 문제가 대두되고 있습니다. 기존 알고리즘과 달리 생성형 AI는 확률론적 시스템이므로, 로봇이 실제 환경에서 사람과 상호작용할 때 발생할 수 있는 위험을 사전에 평가하고 신뢰를 구축하는 것이 매우 중요해졌습니다. 이러한 배경 속에서 카네기 멜론 대학교(Carnegie Mellon University)의 딩 자오(Ding Zhao) 교수가 공동 창업한 세이프월드(Safeworld)가 이 문제 해결에 나섰습니다.
세이프월드는 최근 샤인 캐피탈(Shine Capital)과 a16z 스피드런(a16z Speedrun)이 주도하고 박스 그룹(Box Group), 카네기 멜론 대학교 기금 등이 참여한 1,200만 달러(약 160억 원) 이상의 시드 투자를 유치하며 본격적인 활동을 시작했습니다. 이들은 로봇 제어 시스템의 안전성을 평가하기 위해 실제와 유사한 인간 모델이 있는 시뮬레이션 환경을 구축하는 데 특화되어 있습니다. 예를 들어, 공장의 사각지대에서 로봇이 인간 작업자와 충돌하지 않도록 적절한 속도와 정지 거리를 확보하는지, 혹은 사람이 박스를 들고 있을 때 로봇이 이를 정확히 감지하는지 등 다양한 시나리오를 가상 환경에서 수천 번 반복 테스트합니다. 특히, 사람이 넘어지는 것과 같은 예측 불가능한 행동까지 시뮬레이션하여 실제 상황에서 발생할 수 있는 모든 위험 요소를 검증합니다.
세이프월드의 접근 방식은 테슬라(Tesla)나 웨이브(Wayve) 같은 자율주행 기업이 차량 안전성을 검증하는 방식과 유사하지만, 로봇은 비정형 환경에서 작동하고 각 시설마다 다른 안전 기준을 적용해야 하므로 훨씬 더 복잡합니다. 세이프월드는 로봇 제조사들이 자체적으로 사용하는 도구와 유사한 플랫폼을 구축하고 있지만, 제3자 검증의 필요성을 강조합니다. 이는 경쟁사 간 안전 사례 정보를 공유하고, 로봇이 대규모로 배포되어 로봇 조작 경험이 없는 일반인과 상호작용할 때 발생할 수 있는 예기치 못한 사고를 방지하기 위함입니다. 그리트 로보틱스(Gritt Robotics)와 같은 로봇 개발사들은 이미 세이프월드와 협력하여 로봇 팔이 작업자를 치지 않도록 다양한 인간 행동과 외형 변화를 고려한 시뮬레이션 검증을 진행하고 있습니다. 세이프월드는 이러한 안전성 검증이 로봇 산업의 필수적인 요소가 될 것이며, 이 분야에서 최초로 수익을 내는 기업이 될 것이라고 자신하고 있습니다.