인공지능(AI) 에이전트가 복잡한 작업을 스스로 제안하고 실행하는 시대가 도래하고 있지만, 이 과정에서 '무엇을 제안했고, 누가 승인했으며, 실제로 어떤 결과가 발생했는지'를 명확히 파악하기는 어려웠습니다. 이러한 문제를 해결하기 위해 스테판 G. 크리도어(Stefan G. Creadore)는 AI 에이전트의 실행 과정을 투명하게 관리하고 검증하는 새로운 아키텍처 '프락사(Praxa)'를 제안했습니다. 프락사는 에이전트의 행동 제안부터 실제 효과 검증까지의 각 단계를 명시적으로 표현하고, 증거 기반으로 추적할 수 있도록 설계된 '에이전트 하네스(agent harness)'입니다.
프락사는 결정론적 승인(deterministic admission), 중개된 실행(brokered execution), 외부 피드백(external read-back), 조정(reconciliation), 그리고 검토된 승격(reviewed promotion)이라는 다섯 가지 핵심 메커니즘을 통해 에이전트의 상태를 명확히 구분합니다. 연구팀은 프락사의 유효성을 검증하기 위해 네 가지 증거를 제시했습니다. 첫째, 자체 저장소 감사에서 1,027개의 단위 테스트와 89개의 워커드(Workerd) 테스트를 모두 통과하며 코드 커버리지 기준을 충족했습니다. 둘째, 12가지 태스크에 대한 파일럿 테스트에서는 기존 방식과 비교해 신뢰성 계층(reliability layer)이 더 많은 토큰을 사용했지만 성능 우위는 입증되지 않았습니다. 셋째, 디버깅 후 진행된 개발 비교에서는 기존 방식과 동일한 정확도로 작업을 완료하면서도 토큰 사용량과 예상 비용, 단계 수를 크게 줄였습니다. 넷째, 배포된 소스/설정 증거는 제한된 반영(bounded reflection), 회수 회계(recall accounting), 메모리 컴파일(memory compilation), 도구 상태 경로(tool-health paths)를 보여주지만, 실제 생산성 향상(production outcome lift)은 확인되지 않았습니다.
현재 프락사는 적대적 보안(adversarial security), 생산 환경 안전성(production safety), 일반적인 전문가 우위, 자율적인 재귀 최적화, 또는 사용자 혜택을 명확히 입증하지는 못했습니다. 그러나 프락사의 가장 중요한 기여는 '권한 부여부터 실제 효과 발생까지의 전환 과정'을 명시적이고 테스트 가능하게 만드는 증거 기반 아키텍처를 제공한다는 점입니다. 이는 AI 에이전트의 신뢰성과 책임성을 확보하는 데 필수적인 요소로, 향후 AI 에이전트가 더욱 복잡하고 중요한 역할을 수행하게 될 때 투명한 운영과 규제 준수를 위한 중요한 기반 기술이 될 것입니다. 특히, 금융, 의료 등 고위험 산업에서 AI 에이전트 도입 시 발생할 수 있는 잠재적 위험을 관리하는 데 기여할 수 있습니다.