[오늘의 AI] 빅테크의 반란—NVIDIA 독점의 균열이 시작됐다

왜 지금, 탈엔비디아인가
AI 붐이 정점을 향해 달릴수록, 엔비디아 의존이 곧 공급망 리스크가 된다는 공포가 빅테크 전략실을 뒤흔들기 시작했다. H100·B200의 품귀 현상, 단가 급등, 그리고 단일 벤더 종속이라는 지정학적 취약성이 맞물리며 자체 실리콘 개발의 경제적 합리성이 비로소 임계점을 넘었다.
 
시장조사기관 옴디아에 따르면, 엔비디아가 아닌 타사 AI칩을 사용하는 시스템에 대한 총지출은 연간 49% 증가해 1,260억 달러에 달할 것으로 전망된다. 엔비디아의 데이터센터 GPU 시장 점유율은 여전히 86%에 달하지만, 절대 수요가 커질수록 대체 수요의 절대값도 함께 폭증하는 구조다.
 
"이들 기업들이 내놓은 AI칩이 엔비디아의 신뢰할 수 있는 대안이 됐다는 평가를 받기 시작했다."  뉴욕타임스 (NYT), 2024
 
그러나 탈엔비디아는 단순한 하드웨어 교체가 아니다. 진짜 전쟁터는 소프트웨어다. 20년간 쌓아온 CUDA 생태계, 400만 명 이상의 개발자, 수십만 개의 최적화 라이브러리, 학술 논문의 89%에 등장하는 레퍼런스는 경쟁자들이 넘어야 할 진짜 해자(moat)다.

 

오늘은  주요 빅테크 6개사의 자체 AI칩 현황과 전략적 포지셔닝을 살펴본다.
 
Google
TPU v5 / Axion
가장 오래된 자체 칩 역사를 보유. TPU(텐서 처리 장치)는 2016년부터 내부 AI 학습에 투입됐다. JAX + XLA 컴파일러 스택을 통해 TPU 특화 최적화를 구현하며, OpenXLA 프로젝트로 생태계 개방도 추진 중이다. UXL 재단의 핵심 후원사로 반(反) CUDA 연합을 주도한다.
 
Amazon (AWS)
Trainium 2 / Inferentia
2024년 리인벤트에서 Trainium2 기반 서버를 발표하고, Anthropic의 AI 시스템에 적용한다고 밝혔다. 차세대 Trainium3도 공개 예고. AWS의 클라우드 지배력과 자체 칩의 결합이 핵심 차별화 전략이다. 애플도 이 칩을 활용해 Apple Intelligence를 사전 학습했다.
 
Microsoft
Maia 200 / Athena
코드명 '아테나'로 2019년부터 내부 개발을 시작한 AI 칩. Maia 200은 2026년 1월 출시됐으며 TSMC 3nm 공정에 HBM3E 216GB 메모리를 탑재한다. Azure 인프라에 점진적으로 통합해 OpenAI 학습 비용 절감을 노린다.
 
Meta
MTIA v2
추론(inference) 워크로드에 특화된 MTIA(Meta Training and Inference Accelerator)를 자사 데이터센터 전반에 배치 중이다. 학습은 여전히 NVIDIA GPU를 주로 사용하지만, 추론 단계에서의 NVIDIA 의존도를 낮추는 이원화 전략을 채택했다.
 
Apple
Baltra (발트라)
코드명 '발트라'로 개발 중인 AI 추론 전용 서버칩이 2026년 하반기 대량생산에 돌입한다. Apple Silicon의 고성능 메모리 대역폭과 전력 효율(x86 대비 55% 절감)을 그대로 계승해, 시리·Apple Intelligence의 자사 서버 직접 구동을 위한 핵심 인프라로 설계됐다.
 
OpenAI
자체 칩 (브로드컴 협력)
브로드컴과 공동 설계한 자체 AI칩을 내부 용도로 대량생산 계획을 발표했다. 또한 Anthropic도 자체 칩 개발을 검토 중인 것으로 알려져, AI 모델 운영사들의 탈엔비디아 흐름이 빠르게 확산되는 양상이다.
 
중국: 제재가 오히려 '약'이 됐다
미국의 반도체 제재는 역설적으로 중국의 AI칩 자립화를 가속시켰다. 화웨이는 제재 직후 반도체 스타트업 투자펀드 '허블(Hubble)'을 설립해 생태계 육성에 나섰고, 2023년에는 SMIC가 생산한 7nm 칩을 탑재한 Mate 60 Pro를 공개해 세계를 놀라게 했다. 최신 어센드 910C는 엔비디아 A100 대비 2.5배 높은 성능을 발휘한다고 알려진다.
중국의 자신감은 엔비디아가 중국 시장 전용으로 설계한 H20 칩조차 거부한 데서 극명하게 드러난다. 모건스탠리는 중국의 AI칩 자립률이 2027년 82%까지 확대될 것으로 전망했으며, 베이징은 2028년까지 자급률 100% 목표를 공식화했다.

 

 
CUDA: 진짜 해자는 소프트웨어다
엔비디아의 진짜 경쟁력은 칩 성능이 아니다. 20년간 100억 달러 이상을 투자해 쌓은 CUDA 소프트웨어 생태계다. 파이토치, 텐서플로우, cuDNN, cuBLAS, TensorRT의 5계층 풀스택은 특정 하드웨어에 맞춰 최적화되며 강력한 락인(lock-in) 구조를 형성한다.
소프트웨어정책연구소(SPRi) 2026년 4월 보고서는 "AI 인프라 경쟁의 승패가 반도체 성능보다 소프트웨어 생태계에서 갈리고 있다"고 분석하며, 최적화 수준에 따라 처리량이 최대 3배까지 벌어질 수 있다고 밝혔다. ML 논문의 89%가 CUDA 특화 툴링을 레퍼런스로 사용할 정도다.
 

 
AMD의 ROCm은 가장 앞선 오픈 대안이다. HIP 인터페이스는 CUDA 코드 포팅을 간편하게 하도록 설계됐으며, 2026년 4월 현재 ROCm 6.x 기준으로 Flash Attention 2 네이티브 구현, vLLM 추론 지원, 멀티-GPU 분산학습 등 핵심 워크로드에서 안정성을 확보했다. 그러나 벤치마크상 CUDA 대비 10~30% 성능 격차는 여전히 존재한다.
 

 

엔비디아의 반격: 플랫폼 기업으로의 진화
GTC 2026에서 젠슨 황은 키노트에서 'inference'를 36번 언급했다. 메시지는 명확하다: 엔비디아는 더 이상 칩 회사가 아니라 AI 팩토리(AI Factory) 플랫폼 기업이다. Vera Rubin 시스템은 10년 전 대비 연산 능력이 4천만배 성장했으며, Blackwell 대비 14배 성능 향상을 예고한 Rubin Ultra가 로드맵에 올라 있다.
FY2026 연간 매출은 2,159억 달러로 전년 대비 65% 성장, 단일 분기(FY2026 Q4) 매출 681억 달러를 기록했다. 영업이익률 63.2%는 많은 포춘 500대 기업의 연간 순이익을 한 분기에 초과하는 수준이다. "딥시크 쇼크"가 AI 추론 수요를 오히려 확대시키며 엔비디아에 유리하게 작용했다는 분석이 지배적이다.
 

 
 
향후 전망: 독점의 해체인가, 공고화인가
단기적으로 엔비디아 독점은 흔들리지 않는다. TSMC의 CoWoS 할당 중 엔비디아 비중은 2025년 40%에서 2026년 60%로 오히려 확대됐다. 자체 칩 개발에서 상용화까지는 상당한 시간이 소요되며, 한국투자증권 채민숙 연구원의 분석처럼 "단기간 내 달성은 매우 어렵다"는 것이 전문가들의 공통 견해다.
그러나 중장기 구도는 다르다. 핵심 변수는 세 가지다.
 
📌 중장기 판도를 가를 3대 변수

• CUDA 대안 생태계의 성숙도 — OpenXLA, Triton, ROCm이 개발자 마찰을 얼마나 줄이느냐. 현재 CUDA 대비 10~30% 성능 격차 해소가 핵심 과제다.
• 추론(Inference) 시장의 부상 — 학습(Training)보다 추론이 비용 구조를 지배하는 시대가 오면, 전력 효율 특화 ASIC 칩들의 TCO 우위가 부각된다. Agentic AI 시대의 토큰 소비 폭증(Claude Code는 ChatGPT 대비 1만 배)이 이 흐름을 가속한다.
• 미중 지정학 리스크 — 수출 규제가 심화될수록 중국의 자립화는 물론, 미국 빅테크도 공급망 다각화를 위해 자체 칩 투자를 강화할 수밖에 없다.

IBM의 수석 아키텍트는 "2026년의 경쟁은 AI 모델이 아니라 시스템에서 판가름 난다"고 진단했다. GPU가 왕좌를 지키더라도 ASIC 기반 가속기, 칩렛 설계, 아날로그 추론칩이 성숙하며 에이전틱 AI 워크로드를 위한 새로운 칩 클래스가 등장할 가능성이 높다. 결국 탈엔비디아의 목적지는 완전한 대체가 아닌 멀티-벤더 생태계다. 대규모 학습은 엔비디아, 추론과 엣지는 자체 ASIC, 범용은 AMD/인텔의 역할 분담이 2027~2028년 무렵 서서히 가시화될 것으로 전망된다.