최근 포브스(Forbes)를 통해 소개된 '프리덤(Freedom)'은 대규모 언어모델(LLM) 기반 에이전트 시스템의 새로운 방향을 제시합니다. 이 시스템은 특정 LLM에 종속되지 않는 'LLM 독립(agnostic)' 설계와 더불어, 토큰(token) 사용 효율성을 극대화한 것이 특징입니다. 기존 에이전트들이 특정 LLM에 의존하며 발생하는 높은 운영 비용과 유연성 부족 문제를 해결하려는 시도로 평가받고 있습니다.
프리덤은 여러 LLM을 필요에 따라 전환하며 사용하는 방식으로 작동합니다. 예를 들어, 복잡한 추론(inference)이 필요할 때는 강력한 고성능 LLM을 사용하고, 간단한 작업에는 비용 효율적인 소형 LLM을 활용하는 식입니다. 이는 각 LLM의 장점을 취사선택하고 단점을 보완하여 전체 시스템의 효율성을 높이는 전략입니다. 특히, 토큰 사용량을 최소화하여 API 호출 비용을 절감하는 데 중점을 두어, 장기적인 운영 비용 부담을 줄일 수 있습니다.
이러한 LLM 독립적이고 토큰 효율적인 에이전트 시스템의 등장은 AI 개발 및 활용 방식에 중요한 변화를 가져올 수 있습니다. 기업과 개발자들은 특정 LLM 공급업체에 묶이지 않고, 다양한 모델을 조합하여 자신들의 필요에 가장 적합하고 경제적인 AI 솔루션을 구축할 수 있게 됩니다. 이는 AI 시장의 경쟁을 촉진하고, 더욱 혁신적인 애플리케이션 개발을 가능하게 할 뿐만 아니라, 장기적으로는 AI 서비스의 대중화에도 기여할 것으로 기대됩니다.