소프트웨어 컨설팅 전문 기업 소트웍스(Thoughtworks)가 '테크놀로지 레이더(Technology Radar) 35호'를 공개하며 최신 기술 트렌드 117개를 '도입 권장(Adopt)', '시험 사용(Trial)', '평가(Assess)', '주의(Hold)' 네 단계로 분류해 발표했습니다. 이번 보고서는 특히 생성형 인공지능(AI) 시대에 맞춰 AI 에이전트의 활용과 관리, 모델 선택, 그리고 대규모 AI 인프라 구축에 대한 심도 깊은 분석을 담고 있습니다.
보고서는 AI 에이전트의 실행 환경인 '하네스 엔지니어링(Harness Engineering)'이 개별 에이전트 설정을 넘어 조직 전체의 스킬과 가드레일을 배포하고 평가하는 방식으로 확장되고 있다고 강조합니다. 플러그인 생태계가 형성되면서 에이전트 플러그인(Agent Plugins)과 패키지 관리자(Agent Package Manager)를 통해 스킬을 공통 형식으로 묶고 배포하는 것이 가능해졌습니다. 또한, 공개 가중치 모델(Publicly Weighted Models)과 로컬 코딩 모델(Local Coding Models)의 선택지가 늘면서, 작업별 품질, 비용, 지연 시간, 데이터 보관 조건에 따라 최적의 모델을 선택하는 것이 중요해졌습니다. 소트웍스는 모든 작업에 가장 강력한 모델을 사용하는 방식을 '주의(Hold)' 단계로 분류하며, 작업 특성에 맞는 모델 선택과 라우팅(routing)의 중요성을 역설합니다. 개발자가 여러 에이전트 세션을 병렬로 운용하거나 밤새 작업을 맡기는 방식도 시험 사용 단계에 포함되었으며, 이때 사람의 리뷰와 배포 파이프라인(deployment pipeline)이 처리할 수 있는 양을 고려해야 한다고 조언합니다.
이번 보고서는 AI를 대규모로 운영하는 비용이 단순히 모델 가격뿐만 아니라 추론 스케줄링, 데이터 이동, 스토리지, 네트워크 등 인프라 전반에 걸쳐 발생한다는 점을 명확히 합니다. 쿠버네티스(Kubernetes)가 대규모 AI 인프라의 운영 기반으로 활용되며, KServe, KAITO 같은 도구들이 모델 배포와 서빙을 지원합니다. 또한, 에이전트 샌드박싱(Agent Sandboxing), 변형 테스팅(Mutation Testing), 프로덕션 경로 매핑(Path-to-production mapping), 점진적 컨텍스트 공개(Progressive Context Disclosure), 위협 모델링(Threat Modeling) 등 AI 시대에 필수적인 개발 기법들을 '도입 권장(Adopt)' 단계로 제시하며, 개발 생산성과 보안을 동시에 강화할 수 있는 방안을 제안합니다. 특히 에이전트 샌드박싱은 최소 권한 원칙을 적용하여 AI 에이전트의 실수나 공격으로 인한 영향을 최소화하는 데 필수적이라고 강조합니다.
이러한 트렌드는 개발자들이 AI를 단순한 도구가 아닌, 개발 프로세스의 핵심 주체로 인식하고 관리해야 함을 시사합니다. AI 에이전트가 생성하는 코드의 양이 늘어남에 따라 코드 리뷰와 배포 과정에서의 병목 현상을 해결하고, AI 모델의 선택과 운영에 있어 비용 효율성과 성능을 동시에 고려하는 전략이 필요합니다. 궁극적으로는 AI 기술을 활용해 개발 생산성을 극대화하고, 변화하는 기술 환경에 유연하게 대응할 수 있는 역량을 갖추는 것이 중요해질 것입니다.