구글의 TPU 상업화 선언, AI 컴퓨팅 시장 재편 예고
엔비디아는 2025년 AI 가속기 시장에서 80~90%라는 압도적 점유율로 데이터센터 GPU 부문에서 1,000억 달러 이상의 매출을 기록할 전망이다. 이 견고한 아성에 구글이 정면으로 도전장을 내밀었다. 2026년까지 엔비디아의 점유율이 70~75%로 소폭 하락하는 데 그치더라도, 시장 전체의 파이가 커지면서 절대 매출은 계속 늘어날 것이다. 하지만 구글이 자체 개발 AI 반도체인 TPU(Tensor Processing Unit)를 외부 고객에게 직접 판매하기 시작하면서, AI 컴퓨팅 시장은 완전히 새로운 경쟁 국면에 접어들었다. 이는 엔비디아 독주 체제에 균열을 낼 수 있는 가장 중요한 변수다.
이번 구글의 전략 선회는 단순히 내부 활용이나 클라우드 서비스 임대를 넘어, 8세대 TPU(학습용 8t, 추론용 8i)를 상업적으로 직접 판매하겠다는 공격적인 의지를 드러낸다. 구글의 목표는 명확하다. 폭발적으로 성장하는 AI 하드웨어 시장에서 매출을 다각화하고, 자사 클라우드 생태계를 강화하며, 독자적인 입지를 구축하는 것이다. 이미 앤트로픽과 2027년 가동을 목표로 약 100만 개의 TPU 공급 계약을 맺었고, 메타 역시 2027년부터 수십억 달러 규모의 TPU 구매와 2026년부터의 클라우드 용량 임대를 검토 중이다. 블랙스톤과의 50억 달러 규모 AI 컴퓨팅 합작 투자는 시장 영향력을 확대하려는 구글의 강력한 의지를 재확인시킨다.
TPU의 본질은 특정 목적을 위해 설계된 ASIC(주문형 반도체)이다. 딥러닝과 트랜스포머 모델의 핵심인 행렬 곱셈 연산에 최적화되어 있어, 특정 AI 작업에서는 GPU를 능가하는 비용 효율성과 성능을 자랑한다. 일례로 TPU v5e는 배치 추론 작업에서 엔비디아 A100 GPU 대비 56%의 비용 절감 효과를 보였고, 고성능 워크로드용 TPU v5p는 GPU보다 2~3배 뛰어난 성능 대비 비용 효율을 입증했다. 추론에 특화된 v7 아이언우드, 고성능 v6 트릴리움 등 최신 모델들은 전문성과 에너지 효율을 더욱 끌어올렸다. 이처럼 특정 시나리오에서는 범용 GPU보다 월등한 와트당 성능을 제공하는 것이 TPU의 핵심 경쟁력이다.
물론 엔비디아의 시장 지배력은 여전히 막강하다. 10년 이상 공들여 구축한 CUDA 소프트웨어 생태계는 개발자들에게 강력한 ‘락인(Lock-in)’ 효과를 형성하며, 특히 다양한 AI 모델의 학습 워크로드에서 절대적인 우위를 점하고 있다. 여기에 블랙웰, 루빈 아키텍처로 이어지는 끊임없는 기술 혁신은 경쟁사와의 원시 성능 격차를 계속 벌리고 있다. 실제로 미국의 주요 AI 데이터센터 운영사인 람다(Lambda), 코어위브(CoreWeave) 등은 TPU 도입에 미온적이다. 고객 수요의 99%가 여전히 GPU에 쏠려 있으며, 엔비디아와의 깊은 투자 관계가 형성되어 있기 때문이다.
하지만 AI 칩 시장의 무게중심은 분명 다중 공급업체(multi-vendor) 모델로 이동하고 있다. 2026년 맞춤형 AI ASIC 출하량 성장률은 44.6%로, 범용 GPU 성장률(16.1%)의 거의 세 배에 달할 것으로 예측된다. 추론 워크로드에서 ASIC이 40~65%의 총소유비용(TCO) 우위를 제공하면서, ‘범용’에서 ‘특화’로의 구조적 전환이 가속화되고 있는 것이다. TSMC와 같은 파운드리 업체들은 CoWoS 패키징 역량을 확대하며 이러한 맞춤형 ASIC 생산을 뒷받침하고 있다. 미래의 AI 인프라는 특화된 하드웨어와 범용 GPU가 공존하며, 기업들이 각 워크로드에 가장 적합한 도구를 전략적으로 선택하는 형태가 될 것이다.
독자들이 주목해야 할 포인트
- 워크로드 기반 하드웨어 평가: 막연한 벤치마크 점수보다, 자사의 특정 AI 워크로드에 어떤 칩이 최적의 비용과 성능을 제공하는지 실질적으로 평가해야 한다.
- 다중 공급업체 전략 고려: 최적화된 추론이나 특정 학습 작업에는 TPU를, 범용성과 복잡한 학습에는 GPU를 사용하는 하이브리드 전략으로 단일 벤더 의존 리스크를 줄여야 한다.
- 구글의 시장 침투율 주시: 구글이 얼마나 많은 대형 고객사를 확보하는지, 그리고 파이토치(PyTorch) 지원 확대 등 TPU 소프트웨어 생태계를 얼마나 빠르게 성숙시키는지가 성공의 관건이다.
- 가격 및 신규 제안 모니터링: 경쟁 심화는 필연적으로 가격 조정과 새로운 서비스를 낳는다. 구글과 엔비디아의 움직임을 주시하며 총소유비용(TCO) 관점에서 유리한 기회를 포착해야 한다. 특히 구글이 TPU 마진을 활용해 GPU 클라우드 서비스의 가격 경쟁력을 확보하는 전략과 직접 판매 간의 시너지를 눈여겨볼 필요가 있다.
참고문헌
- siliconanalysts.com — siliconanalysts.com
- siliconanalysts.com — siliconanalysts.com
- letsdatascience.com — letsdatascience.com
- biggo.com — biggo.com
참고문헌
