모바일 엣지 컴퓨팅(Mobile Edge Computing) 환경에서 실시간 데이터 스트림을 처리하는 시스템은 자원 할당이 매우 복잡합니다. 분산된 이기종 인프라, 예측 불가능한 작업량, 자원 경쟁, 그리고 엄격한 서비스 품질(QoS) 요구사항 때문에 기존 스케줄링 방식으로는 효율적인 운영이 어려웠습니다. 최근 발표된 연구는 이러한 문제를 해결하기 위해 LLM(대규모 언어모델)의 지원을 받는 새로운 다중 에이전트 스케줄링 시스템 'MAS-DecStream'을 제안했습니다.
MAS-DecStream의 핵심은 'LLM-MR-CNP'라는 확장된 계약망 프로토콜(Contract Net Protocol, CNP)입니다. 이는 기존 CNP에 의미론적 제안 요청(CFP) 구성, 점진적 컨텍스트 공개, 다중 라운드 제안 수정, 협상 기억, 그리고 확정적 검증 기능을 추가한 것입니다. 엣지 클러스터의 에이전트들은 지역 관측치, 예측된 자원 상태, 그리고 정성적인 런타임 컨텍스트를 바탕으로 자연어 오프로딩(offloading) 제안을 정교화하며, 엄격한 자원 및 QoS 제약 조건은 확정적으로 유지됩니다. 알리바바 ASI 트레이스(Alibaba ASI Trace) 기반의 실험 결과, MAS-DecStream은 지연 시간 위반을 3%로 줄이고, 자원 과잉 할당을 없앴으며, 20개 에이전트 환경에서 0.91의 충돌 해결률을 달성하고, 다중 라운드 규칙 기반 기준선 대비 유틸리티를 최대 22% 향상시키는 등 뛰어난 성능을 보였습니다. 특히 LLM은 정성적이고 불확실한 런타임 컨텍스트에 대한 협상에 가치를 더하는 것으로 나타났습니다.
이 연구는 LLM이 단순히 텍스트 생성뿐만 아니라, 복잡한 분산 시스템의 자원 관리 및 스케줄링 문제 해결에도 중요한 역할을 할 수 있음을 보여줍니다. 특히 모바일 엣지 컴퓨팅과 같이 동적이고 예측 불가능한 환경에서, LLM의 유연한 추론 능력이 에이전트 간의 협상 과정을 최적화하고 시스템 전반의 효율성을 높이는 데 기여할 수 있습니다. 이는 미래의 스마트 시티, 자율 주행, 산업 자동화 등 실시간 데이터 처리가 필수적인 다양한 분야에서 더욱 안정적이고 효율적인 서비스 제공을 가능하게 할 잠재력을 가집니다.