Meta가 에이전트 AI에 GPU 대신 Graviton5를 선택한 이유

Meta가 Amazon Graviton5 프로세서 코어 수천만 개를 에이전트 AI 워크로드 전용으로 배포하는 수십억 달러 규모 계약을 체결했다. GPU가 아닌 ARM 기반 CPU를 에이전트 인프라로 선택한 이 결정은, 에이전트 워크로드의 비용 구조가 일반 LLM과 다르다는 신호다. 빌더에게 지금 당장 열린 경로는 없지만, 지금 만드는 서비스의 비용 구조를 점검하는 근거는 된다.

에이전트 AI에 CPU가 경쟁력을 갖는 구조

에이전트 AI는 일반 LLM 사용과 구조가 다르다. 단일 프롬프트에 한 번 응답하는 게 아니라, 목표를 달성할 때까지 추론을 반복한다. 실험 하나에 수십~수백 번의 API 호출이 발생하는 구조다.

이 반복 추론 워크로드에서는 GPU의 고성능이 필요한 구간보다 비용 효율적으로 많은 호출을 처리하는 구간 이 더 길어진다. 전력 효율이 높은 ARM 기반 CPU인 Graviton5가 에이전트 인프라로 선택받은 배경이다. Meta의 이번 결정은 이 비용 구조 차이를 수십억 달러 규모의 계약으로 확인한 것이다.

빌더가 지금 읽어야 할 신호

Graviton5로의 직접 이전은 아직 개인 빌더에게 열린 경로가 확인되지 않는다. 이번 계약은 Meta와 Amazon 간의 엔터프라이즈 딜이다.

그러나 이 결정이 보내는 신호는 지금 읽을 수 있다.

• 에이전트 AI는 호출 횟수가 늘수록 인프라 비용이 다른 방식으로 쌓인다
• GPU 중심의 비용 구조를 전제로 에이전트 서비스를 설계하면, 호출량이 늘었을 때 예상보다 빠르게 비용 문제에 부딪힌다
• 지금 만들고 있는 에이전트 서비스의 월 API 호출 횟수와 비용을 먼저 확인하는 게 순서다

Meta가 GPU 대신 다른 선택지를 선택했다는 사실 자체가, 에이전트 워크로드의 비용 구조가 일반 LLM 서비스와 다르다는 점을 방증한다.