AI 에이전트가 복잡한 작업을 수행하기 위해 여러 단계를 거치는 '워크플로우'는 그동안 정확도(accuracy)라는 단일 목표에 집중해 최적화되어 왔습니다. 그러나 실제 환경에서는 비용(cost), 지연 시간(latency), 견고성(robustness), 일관성(consistency) 등 다양한 요소들이 중요하게 고려됩니다. 최근 발표된 'MoFlow: 다목적 에이전트 워크플로우 생성(Multi-Objective Agentic Workflow Generation)' 연구는 이러한 여러 목표를 동시에 최적화하는 새로운 접근 방식을 제시하며, AI 에이전트의 실용성을 한 단계 끌어올릴 잠재력을 보여주었습니다.
기존 워크플로우 생성 방식은 특정 목표나 여러 목표의 가중치 합에 맞춰 한 번 훈련되면, 사용자 선호도가 바뀔 때마다 처음부터 다시 훈련해야 하는 비효율성이 있었습니다. MoFlow는 이러한 문제를 해결하기 위해 워크플로우 생성을 다목적 마르코프 결정 과정(multi-objective Markov decision process)으로 공식화하고, '볼록 껍질 몬테카를로 트리 탐색(Convex-Hull Monte Carlo Tree Search)'이라는 기법을 활용합니다. 이 방식은 각 탐색 노드에 단일 점수가 아닌 도달 가능한 여러 절충점(trade-offs) 세트를 저장함으로써, 한 번의 탐색으로 파레토 최적 해(Pareto front)를 근사적으로 찾아냅니다. 덕분에 MoFlow는 재훈련 없이 어떤 선호도에도 맞는 워크플로우를 즉시 찾아낼 수 있습니다.
연구팀은 수학, 코딩, 질문 답변 등 6가지 벤치마크에서 MoFlow를 6가지 강력한 단일 목표 최적화 기준선(baselines)과 비교했습니다. 기준선들은 각 테스트 선호도에 맞춰 재실행되는 유리한 조건에서도, MoFlow는 평균 하이퍼볼륨(hypervolume)에서 가장 높은 성능을 달성했습니다. 이는 MoFlow가 다양한 제약 조건과 목표를 가진 실제 시나리오에서 AI 에이전트의 활용도를 극대화할 수 있음을 시사합니다. 앞으로 AI 에이전트가 더 복잡하고 현실적인 문제 해결에 투입될수록, 이처럼 유연하게 다목적 최적화를 수행하는 기술의 중요성은 더욱 커질 것입니다.