yozm.tech
피드로 돌아가기
arXiv (cs.AI)HOTAI 재작성

Speaking the Navigator's Language: Trajectory-Grounded Instruction Translation for Frozen Aerial VLN Agents

드론과 같은 항공 시각-언어 내비게이션(VLN) 에이전트는 복잡한 훈련 명령과 실제 사용자 명령 사이의 간극 때문에 성공률이 낮았습니다. 새로운 '경로 기반 명령 번역기(TGIT)'는 이 간극을 메워, 드론이 사용자 의도를 더 정확히 파악하고 성공률을 크게 높이는 데 기여합니다. 기존 에이전트 수정 없이 적용 가능해 효율적입니다.

5시간 전·2026.10.09·읽기 1분·Xi Chen, Zhe Liu, Xiaogang Xu, Jiafei Xu, Chunyi Zhou, Yuan Su, Rui Zeng, Tianyu Du, Kelu Yao, Chao Li, Shouling Ji

항공 시각-언어 내비게이션(VLN) 에이전트, 즉 드론과 같은 자율 비행체가 사용자 명령을 이해하고 따르는 데 큰 어려움을 겪어왔습니다. 이는 에이전트가 훈련받은 상세하고 경로에 정렬된 명령과, 사용자가 일상적으로 내리는 짧고 의도 중심적인 명령 사이에 큰 '명령 간극(instruction gap)'이 존재하기 때문입니다. 일례로, 'OpenFly' 내비게이터의 경우, 이 간극으로 인해 성공률(SR)이 31.03%에서 11.33%로 급락하는 문제가 발생했습니다.

이러한 문제를 해결하기 위해 연구팀은 '경로 기반 명령 번역기(Trajectory-Grounded Instruction Translator, TGIT)'를 개발했습니다. TGIT는 내비게이터 에이전트를 수정하지 않고 전면에 배치되어, 사용자의 의도 중심적인 명령을 에이전트가 실행할 수 있는 명령으로 번역하는 역할을 합니다. 이를 위해 연구팀은 언어 모델(LM)에 사람이 작성한 스타일 예시를 프롬프트로 제공하여, 기존의 상세 명령을 의도 중심적인 '약한 명령(Weak commands)'으로 변환하는 방식으로 번역기 훈련 데이터를 확장했습니다. 이 약한 명령으로 훈련된 번역기는 약한 입력에 대한 성공률을 15.27%에서 37.93%로 크게 향상시켰습니다.

더욱 중요한 점은, TGIT가 실제 사람의 명령에 대해서도 제로샷(zero-shot) 방식으로 성공률을 11.33%에서 32.51%로 끌어올렸다는 것입니다. 이는 별도의 추가 훈련 없이도 실제 사용자 환경에서 효과적으로 작동함을 의미합니다. 또한, 기존 'OpenFly' 데이터셋에서는 4.95%에 불과했던 성공률을 20.79%로 개선했으며, 'CityNav' 및 'AirVLN'과 같은 다른 VLN 플랫폼에서도 성능 회복을 보였습니다. 이 기술은 드론이 복잡한 환경에서 사람의 지시를 더 정확하게 이해하고 임무를 수행할 수 있도록 하여, 물류, 감시, 수색 및 구조 등 다양한 분야에서 드론의 활용도를 높일 잠재력을 가지고 있습니다.

1인 창업자를 위한 기회 분석
AI 분석 · 참고용이며 검증이 필요합니다
3/10
약한 신호
왜 3점인가

기존 VLN 에이전트의 한계를 개선하는 연구 결과이지만, 1인 창업자가 직접 드론 제어 및 AI 모델 개발을 통해 상용화하기에는 기술적, 자본적 장벽이 높습니다.

문제 / 미충족 수요

드론과 같은 VLN 에이전트가 사용자의 자연어 명령을 정확히 이해하고 실행하는 데 어려움이 있습니다.

한국 시장
국내 불명한국에서도 드론 활용이 증가하고 있으나, 사용자 친화적인 명령 인터페이스는 아직 초기 단계입니다.
수익 모델

B2B SaaS 구독 또는 API 종량제 · 돈 내는 주체: 드론을 활용하는 기업(건설, 물류, 농업 등) 및 드론 서비스 제공업체

1인 실현 가능성
2/5

고급 AI 및 드론 제어 기술이 필요하며, 데이터 수집 및 모델 훈련에 상당한 자원과 전문성이 요구됩니다.

진입 지점 (Wedge)

특정 산업(예: 건설 현장 드론 검사)에 특화된 자연어 명령-드론 동작 번역 솔루션 개발

이번 주 첫 실험

특정 산업의 드론 사용자들을 대상으로 현재 드론 명령의 비효율성 및 번역 솔루션의 필요성에 대한 인터뷰를 진행하여 문제점을 구체화합니다.

Original source
이 글은 arXiv (cs.AI)의 기사를 yozm.tech가 한국어로 재작성한 버전입니다.
원문 보기