AI 칩 골드러시, 생산 병목 현상에 직면하다
챗GPT(ChatGPT)로 촉발된 생성형 AI 열풍이 반도체 시장을 뒤흔들고 있다. AI 모델 구동에 필수적인 고성능 AI 칩 수요가 폭발적으로 증가하면서, 시장의 모든 눈은 단 한 곳, 바로 엔비디아(NVIDIA)에 쏠린다. 이들의 H100과 같은 최신 GPU는 AI 시대의 ‘금’으로 불릴 정도다.
문제는 이 금을 캐낼 수 있는 곳이 극히 제한적이라는 점이다. 엔비디아의 최첨단 칩은 대만 파운드리 기업 TSMC가 독점 생산한다. 특히 TSMC의 첨단 패키징 기술인 CoWoS(Chip on Wafer on Substrate)가 핵심인데, 이 기술에 대한 수요가 TSMC의 생산 능력을 아득히 초과하면서 심각한 공급 부족 사태가 벌어지고 있다.
상황은 엔비디아의 젠슨 황 CEO가 직접 공급 부족을 인정할 만큼 심각하다. 그는 “수요가 공급을 훨씬 초과하고 있으며, 내년까지도 공급 부족이 계속될 것”이라고 밝혔다. 이는 단순히 한 기업의 문제를 넘어 AI 산업 전체의 발목을 잡는 거대한 병목으로 작용하고 있다.
병목의 핵심: 첨단 패키징 기술 CoWoS
CoWoS란 무엇인가?
문제의 핵심은 바로 CoWoS라는 이름의 첨단 패키징 기술이다. 이는 여러 개의 칩을 하나의 패키지 안에 통합하는 2.5D 패키징 기술로, 실리콘 인터포저(중간 기판) 위에 GPU와 같은 로직 칩과 고대역폭 메모리(HBM)를 나란히 배치해 연결한다. 덕분에 칩 간 데이터 전송 속도를 극대화하고 전력 효율을 높여 AI 연산에 필요한 막대한 데이터를 빠르고 원활하게 처리할 수 있게 된다.
CoWoS 생산 능력이 부족한 이유
CoWoS 생산 능력 부족의 가장 큰 원인은 단연 압도적인 수요다. 시장을 장악한 엔비디아의 H100뿐만 아니라, 경쟁사인 AMD의 MI300 같은 차세대 AI 가속기도 모두 CoWoS 기술을 필요로 한다. 여기에 더해 기술 자체의 복잡성도 생산량 증대에 걸림돌이다. 미세하고 복잡한 공정을 여러 단계 거쳐야 하므로 생산에 오랜 시간이 소요되고 높은 기술력이 요구되기 때문이다.
TSMC의 대응과 산업계에 미치는 파장
공급난 해결을 위해 TSMC는 CoWoS 생산 능력 확대에 사활을 걸고 있다. 2024년 말까지 생산 능력을 현재의 두 배 수준으로 늘린다는 공격적인 목표를 세웠다. 동시에 UMC와 같은 다른 후공정(OSAT) 기업에 일부 공정을 위탁하는 등 공급망 다각화를 통해 숨통을 틔우려 안간힘을 쓰고 있다.
하지만 이미 병목 현상은 AI 산업 전반으로 번지고 있다. GPU 공급 지연은 AI 서비스 개발 일정에 차질을 주고, 클라우드 컴퓨팅 기업들의 인프라 확충 계획을 늦추고 있다. 수요와 공급의 불균형은 자연스레 AI 칩 가격 폭등으로 이어지며 기업들의 비용 부담을 가중시키는 중이다.
이번 사태는 특정 기업에 대한 과도한 의존이 얼마나 큰 위험을 초래하는지 명확히 보여준다. TSMC라는 단일 공급망에 의존했던 구조적 한계가 드러나면서, 반도체 공급망 다변화는 이제 선택이 아닌 생존의 문제로 부상했다.
향후 전망
단기적으로 CoWoS 공급 부족은 계속될 전망이다. TSMC의 증설이 완료되기까지는 물리적인 시간이 필요하며, 그동안 폭발적인 AI 칩 수요를 감당하기는 역부족일 것이다. 공급 부족 현상이 언제 해소될지 예측하기 어려운 상황이다.
장기적인 관점에서는 긍정적인 변화도 기대된다. 이번 공급난은 CoWoS를 대체하거나 보완할 새로운 첨단 패키징 기술 개발을 촉진하는 계기가 될 수 있다. TSMC의 독주를 지켜보던 삼성전자와 인텔 같은 경쟁사들도 첨단 패키징 시장에 본격적으로 뛰어들며 투자를 확대하고 있어, 향후 시장 구도에 변화가 예상된다.
결국 AI 칩 시장의 미래는 이 패키징 병목 현상을 어떻게 해결하느냐에 달려있다. 공급망 안정을 위한 파운드리 업계의 치열한 기술 경쟁과 전략적 합종연횡이 본격화될 것이다.




