AI 에이전트가 뭘 했는지 모른다. Glacis, 감사 로그 오픈소스 공개

AI 에이전트가 혼자 움직이기 시작하면 '무슨 짓을 했는지' 사후에 추적하기 어렵다. 시애틀 스타트업 Glacis가 이 문제를 정면으로 겨냥한 변조 불가 감사 로그 시스템을 구축하고, 모니터링·제어용 오픈소스 툴을 새로 공개했다.

에이전트가 자율 실행하면 왜 로그가 문제가 되나

에이전트가 이메일을 보내고, 파일을 수정하고, 외부 API를 호출하는 작업을 자율로 처리하기 시작하면 문제가 생긴다. 뭔가 잘못됐을 때 '어느 단계에서 무슨 결정을 내렸는지' 소급해서 확인할 수가 없다.

기존 모니터링 도구인 CloudWatch나 Datadog도 로그를 남기지만, AI 에이전트의 행동 맥락을 구조화해서 기록하지는 않는다. 더 큰 문제는 이 로그가 변조될 수 있다는 점이다. 책임 귀속이 필요한 순간에 신뢰할 수 있는 기록이 없으면 감사가 불가능하다.

Glacis는 이 지점을 '에이전트의 가장 큰 사각지대'로 규정하고, 변조 불가(tamper-proof) 방식으로 AI 행동을 기록하는 시스템을 만들고 있다. 전 Microsoft Azure 임원 Rohit Tatachar를 공동창업자 겸 CTO로 영입한 것도 이 시스템의 신뢰성을 높이려는 포석으로 보인다.

거버넌스 레이어가 에이전트 스택의 독립 영역이 되고 있다

Glacis만이 아니다. 미국에서는 AI 에이전트 거버넌스 스타트업 오픈박스 AI가 시드 투자 500만 달러(약 69억 원)를 유치했다. 다른 방식으로 같은 문제를 겨냥하고 있다. 감사·모니터링·제어 레이어가 에이전트 스택에서 별도 카테고리로 굳어지고 있다는 신호다.

기업이 에이전트 도입을 주저하는 핵심 이유 중 하나가 '무슨 행동을 할지 예측할 수 없다'는 불투명성이다. Glacis의 오픈소스 공개는 빌더가 자신의 스택에 감사 레이어를 직접 붙일 수 있게 하겠다는 전략이다.

단, 현재는 초기 공개 단계다. 프로덕션 검증 수치, MAU, 가격 정책은 아직 공개되지 않았다. 지금 쓸 수 있는 것은 오픈소스 툴이고, 실제 서비스 적용 전에 안정성을 직접 확인해야 한다.