엔비디아(NVIDIA)가 인공지능(AI) 분야에서 챗봇을 넘어 자율 에이전트(agentic AI) 시대로의 전환에 발맞춰, 새로운 경량 오픈 모델 '네모트론 3.5 라이트닝(Nemotron 3.5 Lightning)'과 모델 라우팅 라이브러리 '네모 스위치야드(NeMo Switchyard)'를 공개했습니다. 이 두 가지 기술은 에이전트 AI 워크로드의 속도와 효율성을 크게 향상시키며, 엣지 기기부터 클라우드까지 다양한 환경에서 AI 배포 및 운영에 대한 기업의 통제력을 강화하는 데 중점을 둡니다.
네모트론 3.5 라이트닝은 300억 개의 매개변수를 가진 전문가 혼합(Mixture-of-Experts) 모델로, 대규모 다중 에이전트 시스템 내의 특정 작업을 위해 설계되었습니다. 이 모델은 동급 모델 대비 최대 4배 빠른 출력 속도를 제공하여 에이전트 작업 완료 시간을 30% 단축하며, 사이버 보안, 법률 서비스, 코드 검토 등 다양한 산업 분야에서 이미 맞춤형으로 활용되어 높은 정확도를 보이고 있습니다. 또한, 네모 스위치야드는 오픈 소스 라이브러리로, 에이전트 워크플로우 내에서 각 요청을 가장 적합하고 효율적인 모델로 자동 라우팅하여 개발자가 애플리케이션을 다시 작성할 필요 없이 비용을 최대 3분의 1까지 절감하면서도 최전선 수준의 정확도를 유지할 수 있도록 돕습니다.
이번 엔비디아의 발표는 AI 에이전트 시스템이 단일 모델이 아닌 여러 전문 모델의 조합으로 진화하는 추세에 대한 중요한 해답을 제시합니다. 기업들은 네모트론 3.5 라이트닝을 자체 데이터로 미세조정(fine-tuning)하여 특정 도메인에 최적화된 AI 에이전트를 구축할 수 있으며, 네모 스위치야드를 통해 다양한 모델을 효율적으로 관리하고 비용을 최적화할 수 있습니다. 이는 AI 기술의 접근성을 높이고, 기업들이 AI를 더욱 유연하고 효율적으로 활용하여 비즈니스 가치를 창출할 수 있는 기반을 마련해 줄 것으로 기대됩니다.