AI 에이전트 85%가 테스트, 5%만 실제 배포: HITL 없으면 기업도 통과 못 한다

기업 85%가 AI 에이전트 파일럿을 돌리고 있지만, 실제 프로덕션으로 배포한 곳은 5%에 불과하다. Cisco CPO Jeetu Patel은 RSA Conference 2026에서 이 80%p 격차의 원인을 하나로 지목했다. '신뢰(trust)'의 부재다.

왜 데모에선 되는데 실제 배포는 막히나

파일럿과 프로덕션의 차이는 기술 완성도가 아니다. 파일럿은 제한된 환경에서 작동하면 충분하지만, 프로덕션은 세 가지를 모두 해결해야 배포 허가가 난다.

1. 감사(audit) 추적: 에이전트가 무엇을 했는지 기록이 없으면 기업 리스크 기준을 통과하지 못한다. 2. 예외 처리: 예상 밖의 상황에서 에이전트가 어떻게 행동할지 정의되어 있어야 한다. 3. HITL(Human-in-the-Loop): 에이전트가 외부에 실제 액션을 취하기 전, 사람이 중간에 확인·승인하는 단계가 없으면 실수 발생 시 책임 귀속이 불명확해진다. 기업 법무·컴플라이언스 팀이 이 지점에서 배포를 막는다.

HITL은 단순히 '사람이 검토한다'는 의미가 아니다. 에이전트가 이메일을 보내거나, 데이터를 수정하거나, 결제를 실행하기 직전에 승인 단계를 강제로 삽입하는 구조다. 이 단계가 없으면 에이전트는 실수를 저지를 수 있고, 누가 책임지는지 아무도 모른다.

1인 빌더에겐 다른 얘기다: 그런데 함정이 있다

개인 빌더는 기업 법무팀이 없으니 배포 병목이 낮다. 지금 당장 에이전트를 만들어 쓸 수 있다. 그런데 Patel의 발언은 다른 경고를 담고 있다.

파일럿과 프로덕션의 간극을 좁히는 것이 '시장 지배냐 파산이냐'를 가른다고 했다. 이건 기업만의 이야기가 아니다. 고객에게 에이전트를 납품하거나, 에이전트 기반 서비스를 운영하려는 빌더도 똑같이 적용된다.

고객이 에이전트를 실제로 쓰려면 신뢰가 있어야 하고, 신뢰를 만드는 구조가 HITL이다. Cisco는 9만 명 엔지니어링 조직의 재편 방향을 바로 이 문제 해결로 정의했다. 기업 규모에서 이 문제를 최우선으로 두고 있다는 뜻이다.