바이두 로보택시 수십 대 동시 멈춤, 중국 신규 면허 전면 동결

지난달 우한에서 바이두 로보택시 수십 대가 동시에 멈춰 교통 혼잡을 일으켰다. 중국 정부는 그 결과로 신규 자율주행 면허 발급을 중단했다. 기존 운영사들은 현재 보유 차량 외에 무인차를 추가할 수 없게 됐다.

한 번의 집단 실패가 면허 전면 동결로 이어진 이유

바이두 로보택시 수십 대가 우한 도심에서 동시에 멈췄다. 소프트웨어 버그든 통신 장애든, 원인보다 결과가 먼저 가시화됐다. 차들이 도로 한가운데 서 있는 장면은 누구나 찍고 공유할 수 있었다.

중국 정부의 반응은 빨랐다. Bloomberg 보도에 따르면 이 사건 이후 신규 자율주행 면허 발급이 전면 중단됐다. 기존 업체들은 현재 운영 중인 차량 외에 새 무인차를 추가할 수 없다. 글로벌 자율주행 상용화 선도를 내세우던 중국이 규제 리셋을 선택한 것이다.

이 패턴은 익숙하다. 2023년 GM Cruise가 샌프란시스코에서 보행자 충돌 사고를 낸 뒤, GM은 자율주행 사업을 전면 축소했다. 물리적으로 보이는 실패는 규제 임계점을 빠르게 넘긴다.

AI 에이전트를 만드는 사람이 여기서 읽어야 할 것

로보택시는 물리적 AI 에이전트다. 소프트웨어 에이전트와 다른 점은 하나다. 실패가 눈에 보인다는 것. 수십 대가 동시에 멈추면 도로가 막힌다. 소프트웨어 에이전트가 수십 개 인스턴스에서 동시에 오작동해도 그 장면을 찍어서 올리기 어렵다.

하지만 구조적 취약점은 같다. 검증 없이 배포 규모를 먼저 키우면, 단일 장애가 전체를 멈춘다. 바이두가 맞은 역풍은 '속도 우선 배포'가 만든 결과다.

• 동시 실패 시나리오 : 내 에이전트가 10개 인스턴스에서 동시에 같은 버그를 만나면 어떻게 되는가
• 폴백 설계 : 에이전트가 멈췄을 때 사용자에게 무슨 일이 생기는가
• 가시성 확보 : 실패가 언제 일어났는지 내가 먼저 알 수 있는가

바이두는 이 세 가지 중 하나라도 충분히 설계했다면 다른 결과를 맞았을 것이다.