구글의 TPU 상업화 선언, AI 컴퓨팅 시장 재편 예고
엔비디아가 2025년 AI 가속기 시장에서 80~90%의 압도적인 점유율을 기록하며 데이터센터 GPU 부문에서 1,000억 달러 이상의 매출을 올렸음에도 불구하고, 구글의 최근 행보는 이 견고한 시장 구도에 균열을 내기 시작했습니다. 2026년까지 엔비디아의 점유율은 70~75% 수준으로 소폭 하락할 것으로 예상되지만, 총 시장 규모의 확대로 절대적인 매출은 계속 증가. 그러나 구글이 자체 개발 AI 반도체인 TPU(Tensor Processing Unit)를 외부 고객에게 직접 판매하기 시작하면서, AI 컴퓨팅 시장은 새로운 경쟁 국면에 진입하고 있습니다. 이는 엔비디아가 장악해 온 AI 칩 시장의 판도를 바꿀 잠재력을 지니고 있습니다.
구글의 이번 전략적 전환은 내부 활용 및 클라우드 서비스 임대에 그치지 않고, 8세대 TPU(학습용 8t, 추론용 8i)를 직접 판매하겠다는 의지를 분명히 했습니다. 이는 구글이 TPU를 외부 고객에게 상업화하려는 가장 적극적인 시도로 평가됩니다. 구글의 목표는 명확합니다. 빠르게 성장하는 AI 하드웨어 시장에서 매출원을 다각화하고, 자사 클라우드 생태계를 강화하며, 확고한 입지를 구축하는 것입니다. 이미 앤트로픽과 약 100만 개의 TPU 공급 계약을 체결하고 (2027년 가동 예정), 메타 플랫폼스 또한 2027년부터 수십억 달러 규모의 TPU 구매를 검토하며 2026년부터 구글 클라우드 TPU 용량 임대를 고려하고 있습니다. 이와 함께 블랙스톤과의 50억 달러 규모 AI 컴퓨팅 합작 투자 역시 시장 내 영향력을 확대하려는 구글의 강력한 의지를 보여줍니다.
TPU는 AI 작업을 위해 특별히 설계된 ASIC(Application-Specific Integrated Circuit)으로, 딥러닝과 트랜스포머 워크로드에 필수적인 매트릭스 곱셈 연산에 최적화되어 있습니다. 특정 AI 작업에서 GPU 대비 뛰어난 비용 효율성과 성능을 제공합니다. 예를 들어, TPU v5e는 배치 추론 작업에서 엔비디아 A100 GPU 대비 56%의 비용 절감 효과를 보이며, TPU v5p는 고성능 워크로드에서 GPU 대비 2~3배 뛰어난 성능-비용 효율을 자랑합니다. 추론에 특화된 v7 아이언우드와 고성능 v6 트릴리움 같은 최신 TPU 모델들은 전문성과 에너지 효율성을 강조합니다. 이러한 특화된 설계는 특정 시나리오에서 범용 GPU보다 우수한 와트당 성능을 제공하는 경우가 많습니다.
그럼에도 불구하고 엔비디아의 시장 지배력은 여전히 강력합니다. 10년 이상 구축된 포괄적인 CUDA 소프트웨어 생태계는 특히 학습 워크로드와 다양한 AI 작업에서 강력한 종속성을 형성하고 있습니다. 블랙웰(Blackwell) 및 루빈(Rubin) 아키텍처와 같은 엔비디아의 지속적인 혁신은 경쟁사 대비 원시 성능 벤치마크에서 우위를 유지하게 합니다. 실제로 미국의 주요 AI 데이터센터 운영업체들(Lambda, CoreWeave 등)은 TPU 도입에 미온적인 태도를 보이며, 고객 수요의 99%가 여전히 GPU에 집중되어 있고 엔비디아와의 깊은 투자 관계를 강조합니다.
그러나 AI 칩 시장은 분명히 다중 공급업체 모델로 전환되고 있습니다. 2026년 맞춤형 AI ASIC 출하량은 44.6% 성장하여 범용 GPU(16.1% 성장)보다 거의 3배 빠른 성장률을 기록할 것으로 예상됩니다. 이는 추론 워크로드에서 ASIC이 40~65%의 총소유비용(TCO) 우위를 제공하면서, 특정 용도에 맞는 특화된 칩으로의 구조적 변화가 진행 중임을 시사합니다. TSMC와 같은 파운드리는 이러한 맞춤형 ASIC 생산의 핵심적인 역할을 담당하며 CoWoS(Chip-on-Wafer-on-Substrate) 패키징 역량을 확대하고 있습니다. 결국 미래에는 특화된 하드웨어와 범용 GPU가 공존하며, 기업들은 각 AI 워크로드에 가장 적합한 도구를 전략적으로 배치.
독자들이 주목해야 할 포인트
- 워크로드 기반 하드웨어 평가: 기업들은 일반적인 벤치마크보다는 특정 AI 워크로드 요구사항에 맞춰 하드웨어를 평가해야 합니다.
- 다중 공급업체 전략 고려: 최적화된 추론 및 특정 학습 작업에는 TPU를 활용하고, 광범위한 유연성과 복잡한 학습에는 GPU를 지속적으로 사용하는 다중 공급업체 전략을 고려해야 합니다.
- 구글의 시장 침투율 주시: 구글의 대형 하이퍼스케일러 고객 확보 현황과 파이토치(PyTorch) 지원 확대 등 TPU 소프트웨어 생태계의 성숙도를 면밀히 관찰해야 합니다.
- 가격 및 신규 제안 모니터링: 경쟁 심화로 구글과 엔비디아 양측에서 가격 조정 및 새로운 제품/서비스 제안이 나올 수 있으므로, 총소유비용(TCO) 측면에서 더욱 유리한 기회를 포착하기 위해 시장 변화를 지속적으로 모니터링해야 합니다. 특히 구글이 TPU 마진으로 GPU 클라우드 서비스 가격 경쟁력을 확보하는 전략과 직접적인 TPU 판매 간의 시너지를 주시해야 합니다.
참고문헌
