LlamaIndex CEO: 스캐폴딩 레이어가 무너지고 있다

RAG 파이프라인, 에이전트 루프, 쿼리 엔진 — 6개월 전 AI 앱의 '필수 스택'이었던 것들이 이제 불필요한 복잡성으로 불린다. LlamaIndex CEO Jerry Liu가 직접 이 붕괴를 선언했다.

무엇이 죽고 있는가

Jerry Liu는 VentureBeat 인터뷰에서 LLM 앱을 만들기 위해 필요했던 스캐폴딩 레이어가 붕괴 중이라고 말했다. 인덱싱 레이어, 쿼리 엔진, 검색 파이프라인, 조심스럽게 설계된 에이전트 루프가 그 대상이다.

그의 진단은 직접적이다. "결정론적 워크플로우를 가볍게 조합하는 데 도움을 주는 프레임워크의 필요성이 줄어들고 있다." LLM 모델 자체의 추론·검색 능력이 향상되면서, 외부 파이프라인 없이도 처리 가능한 범위가 넓어졌기 때문이다.

이 말을 한 사람이 LlamaIndex의 CEO라는 점이 핵심이다. 자사 제품의 핵심 가치 제안이 흔들리고 있다는 것을 본인이 공개적으로 인정한 셈이다. Liu는 이를 위기가 아니라 "그 자체가 목적"이라고 표현했다.

내 스택을 버려야 하나

빌더에게 실질적인 질문은 하나다. 지금 쓰고 있는 LlamaIndex나 LangChain 스택을 어떻게 해야 하는가.

Liu의 발언이 시사하는 구조는 이렇다.

• 죽는 레이어: 모델이 이미 내재화한 기능을 외부에서 대신해주는 것. 단순 검색 파이프라인, 기본 문서 청킹, 가벼운 에이전트 루프가 해당된다.
• 살아남는 레이어: Liu가 "살아남는 것이 있다"고 명시한 영역 — 소스에서 구체적으로 밝힌 내용은 없지만, 모델이 처리하기 어려운 복잡한 상태 관리와 장기 실행 워크플로우가 후보다.

빌더가 주의할 패턴은 하나다. 모델 업그레이드 한 번으로 3개월 공들인 스택이 무력화되는 일이 반복되고 있다. 프레임워크가 담당하던 복잡성이 모델 레이어로 이동하면서, 그 위에 쌓은 기술 부채가 드러나는 구조다.