인공지능(AI) 시스템이 생성하는 콘텐츠의 양과 속도가 기하급수적으로 증가하면서, 특히 의료나 금융처럼 잘못된 정보가 큰 손실로 이어질 수 있는 고위험(high-loss) 분야에서는 인간의 감독(human-in-the-loop oversight)이 구조적으로 불가능해지는 문제가 발생하고 있습니다. 기존 연구들은 AI 출력 속도(V)가 인간의 인지 능력(C_max)을 초과할 때 이러한 현상이 나타난다고 지적했지만, 최근 히로키 나이토(Hiroki Naito) 연구원은 단순히 속도뿐 아니라 항목당 인지 부하(L)를 곱한 ‘V x L’이 실제 제약 요인이라고 주장하며, 이를 해결하기 위한 새로운 거버넌스 패러다임 ‘플로우-바이-플로우(Flow-by-Flow)’를 제안했습니다.
나이토 연구원에 따르면, 인지 부하(L)는 분류(triage), 판단(judgment), 응답(response) 세 가지 요소로 구성됩니다. 이 중 AI 성능이 향상되어도 분류 비용은 줄어들지 않는데, 이는 범용 AI 설계에 내재된 의미론적 불확실성(semantic indeterminacy) 때문입니다. 응답 비용 역시 AI 정확도 개선과 무관하게 일정하게 유지됩니다. 오직 판단 비용만이 감소할 여지가 있지만, 이마저도 실제 감소보다는 평가 생략으로 이어지는 경우가 많습니다. 결국 AI 역량 향상이 인지 부하 자체를 줄이기보다 그 구조를 재편할 뿐이라는 것입니다. 기존의 AI 출력 내용 평가 기반 거버넌스 방식은 AI에 평가를 위임하면 환각(hallucination) 위험을, 인간에 위임하면 ‘V x L’ 한계에 직면하게 됩니다.
‘플로우-바이-플로우’는 이러한 한계를 극복하기 위해 AI 출력의 내용을 직접 평가하지 않고 감독 부담을 제어하는 방식을 제안합니다. 이 패러다임은 형식적이고 측정 가능한 특징(formal, countable features)을 기반으로 인지 비용 점수(cognitive cost score)를 부여하여 고용량 생산에 비선형적인 비용을 부과하고, 기관의 처리 역량 상한선(institutional capacity cap)을 설정해 처리량을 인간의 인지 능력(C_max) 내로 유지합니다. 이 접근 방식은 내용 판단 없음, 검토자 역량의 확장 가능한 소비 없음, 애플리케이션별 마찰(friction)의 정체성 구속, 일괄 승인 없음이라는 네 가지 설계 불변성(design invariants)을 만족해야 합니다. 모의 분석 결과, 복합 다중 지표 흐름 제어(composite multi-metric flow control)가 기존 감독 강화 방식보다 90.8%의 경우에서 더 나은 성능을 보였습니다. 이는 AI 거버넌스의 새로운 방향을 제시하며, 고위험 분야에서 AI의 안전하고 책임감 있는 활용을 위한 중요한 진전이 될 수 있습니다.