최근 '쇼 HN'에서 공개된 '세이프티커맨더(SafetyCommander)'는 공장 안전 관리의 패러다임을 바꿀 수 있는 AI 에이전트입니다. 이 시스템은 카메라 영상을 실시간으로 분석하고, 사전에 정의된 안전 정책(safety_policy.txt)을 해석하여 위험 수준을 판단합니다. 단순히 특정 상황을 감지하는 것을 넘어, 시각 언어 모델(VLM)이 직접 정책 조항을 인용하며 위험을 추론하고, 이에 따른 알림, 시정 조치 티켓 발행, 보고서 작성, 심지어 주간/월간 예방 계획 수립까지 자율적으로 수행합니다.
세이프티커맨더의 핵심은 AI가 스스로 추론(reasoning)한다는 점입니다. 개발자가 '안전모 없음'을 '고위험'으로 하드코딩하는 방식이 아니라, VLM이 카메라 영상과 안전 정책을 함께 읽고 위험 수준을 결정합니다. 예를 들어, 정책 한 줄만 수정해도 AI의 판단이 즉시 바뀌는 것을 시연할 수 있습니다. 이는 기존의 규칙 기반 시스템과 차별화되는 지점으로, 단순한 챗봇이 아닌 '생각하고(think), 행동하고(act), 보고하는(report)' 자율 에이전트로서의 면모를 보여줍니다. 스택은 Qwen3-VL, YOLO, TF-IDF RAG, Flask 웹 앱으로 구성되어 있으며, 규제와 안전이 중요한 공장 환경에 맞춰 예측 가능한 고정 제어 루프(sense → think → act → report)를 따르도록 설계되었습니다.
이러한 AI 안전 요원은 산업 현장의 안전 관리 방식에 큰 변화를 가져올 잠재력을 가지고 있습니다. 위험 감지 및 대응의 정확성과 신속성을 높여 인명 피해를 줄이고, 안전 관리자의 업무 부담을 경감하며, 규제 준수(compliance)를 강화할 수 있습니다. 또한, AI가 생성하는 상세한 보고서와 예방 계획은 안전 프로그램의 지속적인 개선을 위한 귀중한 데이터를 제공합니다. 궁극적으로는 인간 안전 관리자가 더 중요하고 전략적인 업무에 집중할 수 있도록 지원하며, 공장 운영의 전반적인 효율성과 안전성을 향상시키는 데 기여할 것입니다.