클라우드 콘텐츠 관리 분야의 선두 주자인 Box가 엔비디아의 네모트론 임베딩 시스템을 자사 제품의 핵심에 통합한 'Box 콘텐츠 검색(Box Content Retrieval)' 기능을 발표했습니다. 이 새로운 기능은 AI 에이전트(agent)가 네모트론이 생성한 임베디드 메타데이터(embedded metadata)를 활용하여 질의에 훨씬 더 효과적으로 응답할 수 있도록 설계되었습니다. Box는 이를 통해 사용자들은 4배 더 빠른 응답 속도, 20% 감소한 오류, 그리고 90% 절감된 토큰(token) 사용량으로 검색할 수 있게 될 것이라고 밝혔습니다.
엔비디아의 생성형 AI 소프트웨어 부사장인 카리 브리스키(Kari Briski)는 이 시스템이 내년 초 Box의 엔터프라이즈 어드밴스(Enterprise Advance) 고객들에게 제공될 예정이라고 언급했습니다. Box의 CEO 애런 레비(Aaron Levie)는 이 기술이 에이전트를 위한 검색 기술의 관련성을 극적으로 향상시킨다고 설명했습니다. 기존에는 에이전트가 문서를 일일이 읽어야 했지만, 이제는 사용자 질의나 작업에 가장 관련성 높은 문서의 특정 '청크(chunks)'를 즉시 제공할 수 있게 됩니다. 이는 엔비디아의 오픈 웨이트(open-weight) 임베딩 모델 프로젝트인 네모트론 임베드(Nemotron Embed)의 구현 사례로, 대규모 언어모델(LLM)을 사용하여 데이터를 사전 처리함으로써 에이전트가 더 효율적으로 데이터를 활용할 수 있도록 돕습니다. 네모트론은 최근 RTEB 벤치마크에서 검색 품질 최고점을 기록하며 그 성능을 입증했습니다.
이 시스템은 특히 변호사와 같이 방대한 문서에서 특정 조항이나 판례를 찾아야 하는 전문가들에게 큰 도움이 될 것으로 예상됩니다. 네모트론의 임베딩은 단순 키워드를 넘어 개념적 유사성을 파악하므로, 다른 표현이나 언어가 사용된 경우에도 관련 법률 주제를 정확하게 찾아낼 수 있습니다. 이 기술은 Box의 기존 메타데이터 및 권한 제어 시스템과 긴밀하게 통합되어 있어, 단순히 네모트론 모델만으로는 재현하기 어려운 강력한 시너지를 창출합니다. 레비 CEO는 이 하나의 간단한 API에 다섯 가지 기술이 결합되어 있다고 강조하며, 기업 콘텐츠 검색의 효율성과 정확성을 혁신할 잠재력을 시사했습니다.