CIA, 사람 검수 없는 AI 보고서 완성: HITL 없는 에이전트 설계의 기준

CIA가 AI로 완전 자율 정보 보고서를 처음 생산했다고 부국장 Michael Ellis가 밝혔다. 인간 편집자가 최종 결과물에 개입하지 않은 첫 공식 사례다. 가장 엄격한 신뢰 기준을 요구하는 정보기관이 HITL 없는 구조를 공식화했다는 건, 에이전트 설계 기준이 바뀌고 있다는 신호다.

HITL을 뺀다는 건 무슨 의미인가

기존 AI 보조 보고서는 사람이 초안을 검토하고 최종 편집을 거쳤다. 이번엔 달랐다. CIA 부국장 발표에 따르면, AI가 최종 결과물을 단독 생산했다. '보조 도구'가 아니라 '결과물 생산자'로 역할이 넘어간 것이다.

HITL(Human-in-the-Loop)은 에이전트가 중간 결과를 내면 사람이 확인하고 다음 단계로 넘기는 구조다. 이 단계를 없애면 속도가 빨라지지만 오류가 걸러지지 않은 채 최종 결과물이 된다. CIA가 이 구조를 선택했다는 건, 내부적으로 오류 리스크보다 자율 실행의 효용이 더 높다고 판단했다는 뜻이다.

빌더 관점에서 이 선택은 중요한 질문을 던진다. 내가 만드는 에이전트에서 HITL을 뺐을 때, 결과물이 잘못됐을 경우 누가 책임을 지는가. CIA는 그 책임 구조를 갖고 있다. 1인 빌더는 그 구조가 없다.

에이전트 설계에서 HITL을 어떻게 결정할 것인가

CIA의 사례는 단일 보고서이고, 전체 분석 업무를 AI가 대체한다는 뜻이 아니다. 모든 플랫폼에 AI 어시스턴트를 통합하겠다는 계획은 현재 발표 단계다. 실제 운영 범위는 아직 불명확하다.

그러나 구조 변화의 방향은 읽힌다. HITL을 뺄 수 있는 조건은 세 가지로 좁혀진다.

- 결과물 오류가 발생했을 때 피해 범위가 제한적인 태스크 - 오류를 사후 감지하고 수정할 수 있는 피드백 루프가 있는 구조 - 반복성이 높아 에이전트 출력의 패턴을 이미 검증한 경우

이 세 조건 중 하나라도 빠지면, HITL을 유지하는 것이 맞다. CIA 수준의 내부 검증 체계 없이 '완전 자율'을 선택하는 건 리스크를 보이지 않는 곳으로 미루는 것이다. 빌더가 지금 설계하는 에이전트에서 사람이 개입하는 지점이 어디인지 명시적으로 그려야 하는 이유가 여기 있다.