Cloudflare, 테넌트별 AI 에이전트를 거의 무료 유휴 비용으로 실행

B2B SaaS에 AI 에이전트를 붙이는 순간 마주치는 문제가 있다. 테넌트가 수백 개면 워크플로우도 수백 개고, 대부분은 유휴 상태다. Cloudflare가 이 비용 구조를 직접 겨냥한 Dynamic Workflows 라이브러리를 출시했다.

기존 워크플로우와 뭐가 다른가

Cloudflare의 기존 Workflows는 미리 정의된 고정 워크플로우를 실행한다. Dynamic Workflows는 다르다. 테넌트가 제공하는 코드에 내구성 있는 실행을 온더플라이로 라우팅한다. 즉, 각 테넌트의 커스텀 워크플로우를 런타임에 동적으로 처리할 수 있다.

Dynamic Workers 위에 구축된 이 라이브러리는 수백만 개의 고유 워크플로우를 거의 제로에 가까운 유휴 비용(near-zero idle cost) 으로 처리한다고 Cloudflare는 밝혔다. '제로'가 아니라 'near-zero'라는 표현에 주목할 필요가 있다.

어떤 빌더에게 의미 있는가

이 발표가 직접 닿는 빌더는 하나의 조건을 가진 경우다. 고객사마다 다른 AI 워크플로우를 운영해야 하는 플랫폼을 만들고 있는 것.

에이전트 워크플로우는 기존 서버리스 과금 구조와 잘 맞지 않는다. 실행 시간이 길고, 호출 패턴이 불규칙하고, 대부분의 시간은 대기 상태다. 고정 인프라로 이를 처리하면 테넌트 수만큼 유휴 비용이 쌓인다.

비교할 수 있는 대안으로는 AWS Step Functions, Temporal 등이 있다. 이들과의 유휴 비용 구조 차이는 Cloudflare가 공개한 수치가 없어 현재로선 직접 비교가 어렵다. 채택 사례 수치도 이번 발표에는 포함되지 않았다.