ScaledThought가 AI 에이전트가 스스로 계정을 만들고 관리할 수 있는 독특한 OpenAI 호환 API를 선보였습니다. 이 플랫폼은 AI 에이전트가 직접 최신 오픈소스 모델에 접근하고, 필요한 경우 인간의 승인을 받아 선불 크레딧으로 비용을 지불하는 방식으로 운영됩니다. 이는 개발자가 AI 에이전트를 활용하여 모델 배포 및 관리를 자동화할 수 있는 새로운 가능성을 열어줍니다.
이 서비스의 핵심은 '제로 데이터 보존(ZDR)' 정책입니다. API 요청의 프롬프트와 완성된 결과는 저장되거나 로깅되지 않으며, 모델 학습에도 사용되지 않습니다. 이는 특히 데이터 보안과 개인 정보 보호가 중요한 기업 및 개인 사용자에게 큰 이점으로 작용합니다. 또한, ScaledThought는 CLI(명령줄 인터페이스)와 API를 통해 에이전트가 가입, 키 관리, 예산 설정, 결제 및 추론 작업을 모두 처리할 수 있도록 지원하며, 인간 사용자를 위한 대시보드도 제공합니다. 현재 미국 리전에서 서비스 중이며, 캐나다 리전도 곧 추가될 예정입니다.
ScaledThought의 등장은 AI 에이전트의 자율성을 한 단계 끌어올리는 중요한 의미를 가집니다. 개발자들은 이제 복잡한 API 연동 및 결제 과정을 직접 관리할 필요 없이, AI 에이전트에게 이 모든 것을 위임할 수 있게 되었습니다. 이는 AI 개발 및 배포 속도를 가속화하고, 보안에 민감한 환경에서도 안심하고 AI 모델을 활용할 수 있는 기반을 마련합니다. 궁극적으로 AI 에이전트가 단순한 도구를 넘어, 스스로 운영 가능한 주체로 진화하는 데 기여할 것으로 보입니다.