엔비디아(NVDA)의 AI 반도체 시장 지배력을 상징하던 ‘CUDA’가 흔들리고 있습니다. 최근 Cerebras CEO 앤드류 펠드먼은 한 팟캐스트에서 ‘지난 24개월 동안 최첨단 AI 모델 학습 시장에서 CUDA의 점유율이 약 70% 하락했다’는 추정을 내놓았습니다. 이는 단순한 수치 이상의 의미를 갖습니다. 구글의 제미니가 자체 TPU로, 앤트로픽의 클로드가 아마존 AWS의 트레이니움(Trainium)으로 학습되는 등, 엔비디아 GPU에 의존하지 않는 ‘멀티 실리콘’ 학습 환경이 이미 현실이 되고 있기 때문입니다. 오픈AI조차 CUDA를 주로 사용하지만, 자체 커스텀 실리콘을 공동 개발 중인 것으로 알려졌습니다.
무슨 일이 있었나: CUDA의 몰락과 패브릭의 부상
펠드먼의 발언은 단순한 추측이 아닙니다. 구글은 2016년부터 TPU를 개발해왔고, 제미니 학습에 TPU만 사용한다는 사실을 공식적으로 확인한 바 있습니다. 아마존 역시 트레이니움 칩을 앤트로픽의 클로드 학습 인프라에 제공하며 AWS의 엔비디아 의존도를 낮추고 있습니다. 이들은 더 이상 실험 단계가 아니라, 가장 주목받는 프런티어 모델들의 주 학습 수단으로 자리 잡았습니다. 그러나 <비욘드 엔비디아스 모트(Beyond NVIDIA's Moat)>의 저자 제나로 쿠오파노는 이 현상을 ‘CUDA의 점유율 상실’로만 보는 것은 구조적 질문을 오해한 것이라고 지적합니다. 진짜 핵심은 한 층 더 아래, 바로 ‘패브릭(fabric)’ 계층에 있다는 분석입니다.
왜 중요한가: 진짜 해자는 패브릭이었다
프런티어 모델 학습은 단일 칩 문제가 아닙니다. GPT-4나 제미니 1.5 규모의 모델은 수천 개의 가속기에 분산되어 학습되며, 이 칩들 사이의 정보 교환 속도가 병목입니다. 엔비디아가 2019년 멜라녹스(Mellanox)를 69억 달러에 인수한 이유가 여기에 있습니다. NVLink(칩 간 연결)와 인피니밴드(노드 간 연결)를 통해 엔비디아는 분산 학습 스택 전체를 종단간 소유하게 되었고, CUDA는 그 위에서 작동하는 소프트웨어 레이어에 불과했습니다. 개발자들이 ‘CUDA 생태계가 해자’라고 말할 때, 실제로는 그 아래의 패브릭이 만들어내는 진입 장벽을 지칭하고 있었던 셈입니다. 구글과 아마존은 이제 자체 패브릭을 구축했습니다. 구글은 TPU 팟에 ICI(Inter-Core Interconnect)를, 아마존은 트레이니움 클러스터에 EFA(Elastic Fabric Adapter)를 적용하며 엔비디아의 패브릭 독점에 도전하고 있습니다.
우리의 해석: CUDA 독점은 깨졌지만, 패브릭 해자는 여전하다
XPLAIN AI는 이번 사건을 ‘엔비디아의 몰락’이 아닌 ‘시장의 다각화’로 해석합니다. CUDA가 프런티어 학습에서 점유율을 잃은 것은 사실이지만, 이는 엔비디아의 핵심 경쟁력이 CUDA가 아니라 패브릭에 있다는 사실을 드러냅니다. 엔비디아는 여전히 NVLink와 인피니밴드라는 업계 최고의 패브릭 기술을 보유하고 있으며, 이는 추론(inference) 시장이나 엔터프라이즈 AI 워크로드에서 여전히 강력한 무기입니다. 반면, 구글과 아마존의 자체 칩은 자사 클라우드 생태계 내에서 최적화되어 있어, 외부 고객에게 동일한 성능을 제공할 수 있을지는 미지수입니다. 핵심은 ‘어디서 학습하느냐’보다 ‘어디서 추론하느냐’로 경쟁 축이 이동할 가능성입니다.
수혜와 리스크: 누가 웃고 누가 울까
- 수혜 가능성: 구글(GOOGL)과 아마존(AMZN)은 자체 AI 반도체 생태계를 강화하며 클라우드 AI 시장에서 엔비디아 의존도를 낮출 수 있습니다. 또한, AMD(AMD)나 인텔(INTC) 같은 경쟁 GPU 업체들에게 CUDA 의존도가 낮아진 시장은 새로운 기회를 제공할 수 있습니다. AI 반도체 스타트업(예: Cerebras, Graphcore)도 프런티어 학습 시장에서 가능성을 모색할 수 있습니다.
- 리스크 가능성: 엔비디아(NVDA)는 프런티어 학습 시장에서의 독점적 지위를 잃을 위험이 있습니다. 하지만 단기적으로는 추론 시장과 기업용 AI 수요가 성장 중이므로, 전체적인 영향은 제한적일 수 있습니다. 또한, TSMC(TSM)는 고객 다변화 측면에서 긍정적이지만, 엔비디아 물량 감소가 단기 실적에 영향을 줄 가능성도 있습니다.
반대 시나리오와 불확실성
펠드먼의 70% 점유율 하락 추정은 그의 회사(세레브라스)가 엔비디아와 경쟁 관계에 있다는 점을 고려해야 합니다. 또한, 구글과 아마존의 자체 칩이 여전히 엔비디아 GPU 대비 범용성과 소프트웨어 생태계에서 열위에 있을 가능성이 있습니다. 오픈AI가 자체 칩을 개발 중이지만, 당분간 CUDA 의존도를 완전히 벗어나기는 어려울 것입니다. 마지막으로, 엔비디아가 차세대 패브릭 기술(예: NVLink 6, Quantum 2 인피니밴드)으로 다시 격차를 벌릴 가능성도 배제할 수 없습니다.
다음에 확인할 지표
투자자들이 주목해야 할 지표는 다음과 같습니다: 첫째, 구글과 아마존의 AI 반도체 관련 자본 지출(CAPEX) 추이. 둘째, 엔비디아 데이터센터 매출에서 프런티어 AI 고객(오픈AI, 메타 등) 비중 변화. 셋째, AMD의 MI300X 시리즈나 인텔의 가우디3 같은 경쟁 제품의 실제 채택 사례. 넷째, 엔비디아의 패브릭 관련 신규 계약 및 기술 발표. 이 지표들이 엔비디아의 패브릭 해자가 여전히 유효한지, 아니면 경쟁자들이 따라잡고 있는지를 가늠하는 잣대가 될 것입니다.
#AI반도체 #엔비디아 #구글TPU #아마존트레이니움 #CUDA #패브릭 #AI학습 #반도체경쟁
출처
- NVIDIA’s Training Moat Is Splitting in Two: The Fabric Layer Still Holds, the CUDA Monopoly Does Not — FourWeekMBA · 언론 보도 · Mon, 27 Jul 2026 08:27:38 +0000
작성: XPLAIN AI 편집팀 · 검수: XPLAIN AI Editorial Desk
이 콘텐츠는 공개된 출처를 기반으로 AI의 도움을 받아 작성되었으며, XPLAIN AI의 편집·검수 기준을 적용했습니다. 사실과 분석 의견을 구분하며, 오류가 확인되면 수정합니다.
