AI 인프라의 구조적 반전: HBM 병목 해소와 추론 경제학의 시대 (2026–2027)

---

 

---

---

1. Executive Summary

 

AI 인프라 투자의 패러다임이 2026년을 기점으로 '무지성적 구축'에서 '운영 효율을 통한 수익화' 로 급격히 전환되고 있다. 지난 수년간 시장을 지배했던 Nvidia GPU와 HBM(고대역폭 메모리) 중심의 단일 성장 내러티브는 이제 물리적 한계와 경제적 타당성이라는 냉혹한 검증대에 올랐다. 본 보고서는 이러한 변화를 AI 산업의 '구조적 반전' 으로 규정하며, 투자자들이 단순한 하드웨어 수혜를 넘어 EPS(주당순이익)의 질적 변화와 밸류에이션 리레이팅의 논리적 근거를 재설정해야 함을 강조한다.

 

가장 핵심적인 변화는 추론 경제학(Inference Economics) 의 부상이다. Nvidia 독점 체제는 하이퍼스케일러들의 커스텀 ASIC 도입으로 인해 다변화되고 있으며, 이는 TCO(총소유비용) 절감과 맞물려 Broadcom, Marvell과 같은 설계 파트너들의 이익 가시성을 구조적으로 높이고 있다. 또한 메모리 시장에서는 'HBM 수익성의 역설' 이 발생하고 있다. HBM의 높은 판가에도 불구하고 극심한 웨이퍼 소모량과 낮은 수율로 인해, 공급이 제한된 범용 DDR5와 eSSD(기업용 SSD)의 마진 스프레드가 HBM을 추월하는 현상이 실증적으로 관측된다.

 

2026~2027 회계연도 기준, 섹터 내 이익 집중도는 Nvidia에서 ASIC 생태계와 고성능 스토리지 계층 으로 전이될 것이다. 인프라 확산의 초기 국면을 지나, 이제는 물리적 한계와 경제적 효율성이 주가를 결정하는 핵심 변수로 부상하고 있음에 주목해야 한다.

---

2. Investment Thesis & Catalyst: 왜 '지금' 구조적 변화에 주목해야 하는가?

 

현재 AI 반도체 섹터의 투자 로직은 기존의 '공급 부족' 프레임에서 '아키텍처 최적화' 프레임 으로 진화하고 있다. 단기(6개월) 및 중기(2년) 주가 리레이팅을 견인할 3대 핵심 촉매제를 분석한다.

 

촉매제 1 (Architectural Shift): HBM의 '메모리 벽' 우회와 SRAM·LPU의 부상

 

기존 GPU 중심 구조는 HBM의 대역폭에 전적으로 의존했으나, 이는 실시간 AI 에이전트 구현에 구조적인 병목을 유발한다. 문제의 핵심은 LLM의 연산이 두 단계로 분리된다는 점에 있다.

 

첫 번째는 어텐션(Attention) 연산 으로, 사용자와의 대화 맥락 전체를 기억하는 KV 캐시(Key-Value Cache) 데이터를 지속적으로 참조하는 단계다. 이 단계에서는 HBM의 대역폭이 필수적이다. 두 번째는 FFN(Feed Forward Network) 연산 으로, 모델이 학습한 수백억~수조 개의 가중치(Weight) 파라미터를 로드해 실제 답을 생성하는 단계다. 문제는 이 FFN 단계에서 매 토큰 생성마다 HBM으로부터 엄청난 양의 가중치를 반복적으로 로드해야 한다는 점이다. 이 과정에서 발생하는 지연이 GPU 추론 효율의 핵심 병목이다.

 

이에 대한 해법으로 SRAM 기반의 LPU(Language Processing Unit) 아키텍처가 부상하고 있다. Nvidia가 2025년 12월 약 200억 달러($20B) 에 인수한 Groq의 3세대 LPU(개별 칩명: LP30)는 대용량 온칩 SRAM을 활용해 FFN 연산에 필요한 가중치를 HBM 대신 SRAM에서 직접 공급함으로써 '메모리 벽'을 물리적으로 우회한다. LP30 단일 칩의 온칩 SRAM 대역폭은 1.2PB/s 로, 이를 8개 묶은 LPX 트레이 단위에서는 40PB/s 의 메모리 대역폭이 실현된다.

 

[팩트체크 및 보강] Vera Rubin vs Blackwell 성능 비교

 

원문의 '토큰 생성 속도 35배 개선'이라는 수치는 재검토가 필요하다. GTC 2026 공식 발표 및 분석 자료에 따르면, Vera Rubin 플랫폼의 전체 AI 추론 성능은 전작 Blackwell 대비 110배 수준으로 향상됐다. 이는 단순히 LPU 하나의 기여가 아닌, Vera CPU + Rubin GPU + NVLink 6 + Groq 3 LPU로 구성된 7개 핵심 부품의 통합 효과다. LPU의 직접 기여에 한정하면, LS증권 분석 모델 시뮬레이션 기준 FFN 연산의 80~95%를 LPU로 처리할 경우 추론 전체 소요 시간이 기준(LPU 미사용) 대비 약 4~8배 단축되는 것으로 추정된다. 스케일업 인터커넥트 대역폭을 150TB/s에서 1,000TB/s로 확장할 경우 최대 약 8배의 지연 시간 단축이 가능하다는 시뮬레이션 결과도 제시됐다.

 

Vera Rubin 플랫폼의 풀스택 구성(7대 핵심 부품):

구성 요소	역할
Vera CPU	ARM 기반 88코어, AI 친화형 SOCAMM2 메모리 탑재, 전작 대비 2배 전력 효율
Rubin GPU	HBM4 탑재, 딥러닝 학습·고성능 추론 담당
Groq 3 LPU (LP30)	온칩 SRAM 4GB, 대역폭 1.2PB/s, FFN·MoE 추론 가속
NVLink 6	GPU-CPU-LPU 간 초고속 칩 연결 버스
ConnectX-9 SuperNIC	네트워크 인터페이스 가속
BlueField-4 DPU	데이터 전처리·ICMS SSD IO 전담 처리
Infiniband 6	서버 간 초고속 클러스터 네트워킹

 

256개의 LP30 칩을 풀 스케일로 배치하면 SRAM 기반 스케일업 대역폭은 640TB/s 에 달하며, AI 추론 성능(FP8 기준)은 트레이 단위로 315 PFLOPS를 구현한다.

 

나아가 GTC 2026에서는 차세대 플랫폼 'Feynman' 의 로드맵도 공개됐다. Feynman은 Vera Rubin의 후속 세대로, Vera CPU 자리에 Rosa CPU(LP40 LPU 통합)가 들어서며, BlueField-5 DPU, ConnectX-10(CX10)까지 포함해 추론 효율을 한층 더 끌어올릴 예정이다. Feynman의 코드명인 'Rosalind Franklin'은 DNA 이중나선 구조 발견에 기여한 여성 과학자 이름에서 따온 것으로, Nvidia의 플랫폼 네이밍 전통을 이어간다.

 

촉매제 2 (Storage Inversion): ICMS 도입과 eSSD 수요의 비선형 확대

 

추론 모델이 거대화됨에 따라 KV 캐시 용량이 HBM의 물리적 한계를 초과하는 현상이 본격화되고 있다. 수백억~수조 파라미터 규모의 LLM이 긴 컨텍스트(Long Context)를 처리할 때 요구되는 KV 캐시 용량은 현재 HBM이 수용할 수 있는 범위를 구조적으로 압도한다.

 

이를 해결하기 위해 Nvidia가 GTC 2026에서 공식화한 것이 ICMS(Inference Context Memory Storage) 아키텍처다. ICMS는 SSD를 단순 저장 장치가 아닌 GPU의 메모리 계층 일부 로 편입시켜, HBM에 담지 못하는 KV 캐시와 컨텍스트 데이터를 고성능 eSSD에 적재하는 방식이다.

 

ICMS의 기술적 핵심 — 4가지 아키텍처 혁신:

 

ICMS가 기존 GPU-SSD 연동과 근본적으로 다른 이유는 데이터 전송 경로 자체를 재설계했기 때문이다.

• GIDS(GPU-Initiated Direct Storage): 기존에는 GPU가 SSD 데이터를 가져오기 위해 반드시 CPU를 경유해야 했다. CPU는 NVMe IO 큐를 관리하지만 GPU의 저수준 IO를 직접 제어할 수 없어 막대한 지연이 발생했다. GIDS는 GPU가 CUDA 수준에서 NVMe IO를 직접 발행함으로써 CPU 개입을 완전히 제거한다.
• NVMe-oF(NVMe over Fabrics) RDMA: DPU가 SSD IO를 전담하고, NVMe-over-Fabrics RDMA 방식으로 GPU가 원거리 스토리지의 데이터를 CPU·NIC 개입 없이 직접 수신한다.
• BlueField-4 DPU 전담 처리: 기존 방식에서는 GPU-CPU-NIC 사이에 다중 복사(Multiple Copy)와 컨텍스트 스위칭이 반복됐다. DPU가 SSD IO를 전담함으로써 이 오버헤드를 원천 차단한다.
• 엔드투엔드 Zero-Copy 전송: 위 세 가지의 결합 결과로, ICMS는 GPU DMA(Direct Memory Access)를 통한 완전한 Zero-Copy 경로를 구현한다. SSD HBM 간 지연은 최소화되고, GPU 스레드의 IOPS(초당 IO 처리량)와 컨커런시(Concurrency, 동시 처리 용량)가 대폭 개선된다.

eSSD 수요의 정량적 충격:

 

Vera Rubin급 서버에 ICMS 풀스택 도입 시 서버당 약 1,152TB 의 추가 eSSD 용량이 요구된다. 이 서버 10만 대가 배포될 경우, 해당 ICMS 용도만으로 전 세계 NAND 수요의 약 9.3% 를 점유하게 된다는 추정이 제시된다. 단일 아키텍처 변화가 글로벌 메모리 수급을 10분의 1 수준으로 재편하는 수요 충격이다.

 

이 수혜의 최전선에 있는 제품은 SK하이닉스 자회사 Solidigm의 D5-P5336(122TB급 QLC eSSD) 이다. QLC(4비트/셀) 방식은 TLC(3비트/셀) 대비 저장 밀도가 높아 대용량·저단가 구현에 최적화돼 있으며, AI 추론의 KV 캐시처럼 '대량 저장, 순차 접근' 특성이 강한 워크로드에 구조적으로 적합하다. GTC 2026에서 SK하이닉스는 HBM4·HBM3E뿐 아니라 eSSD·LPDDR6·GDDR7까지 포함한 'AI 메모리 토탈 솔루션'을 공식 전면화했다.

 

촉매제 3 (Energy Autonomy): 기가와트 실링과 인프라 혁신

 

데이터센터의 전력 밀도가 랙당 140kW 를 넘어서며 '기가와트 실링(Gigawatt Ceiling)' 문제가 AI 확산의 최대 병목으로 부상했다. 에어컨(공랭) 방식으로는 이 열 밀도를 물리적으로 감당할 수 없다. 이를 극복하기 위해 하이퍼스케일러들은 두 가지 방향으로 대응하고 있다.

 

단기·중기 대응은 액체 냉각(Direct-to-Chip / 2상 액침 냉각)의 의무화 다. Accelsius의 NeuCool과 같은 2상(Two-Phase) 액체 냉각 기술은 냉각제가 액체↔기체 상전이 시 흡수하는 높은 잠열을 활용해, 공랭 대비 운영 비용(OPEX)을 35% 절감 하고 총소유비용(TCO)을 12% 개선 한다. 같은 전력 예산 내에서 GPU·ASIC 밀도를 높일 수 있어, 테넌트(데이터센터 임차 기업) 입장에서 '토큰당 생산 비용'의 실질적 저하 를 달성하는 핵심 수단이다.

 

장기 대응은 SMR(소형 모듈 원자로, Small Modular Reactor)을 통한 에너지 자립 이다. Microsoft의 쓰리마일 섬 원전 재가동 계약은 그 상징적 신호탄이다. NuScale, Kairos Power 등 SMR 기업들은 AI 인프라 밸류체인의 '최종 전방 공급자'로 편입되고 있으며, 인허가 승인 여부가 향후 하이퍼스케일러 Capex 계획의 핵심 변수로 작용하고 있다.

 

이러한 아키텍처의 변화는 공급망 전체의 가치 배분을 재편하며, 밸류체인 내 소외됐던 영역에서 강력한 투자 기회를 창출한다.

---

3. Industry Context & Competitive Landscape: 밸류체인 전·후방 강제 확장 분석

 

산업 패러다임은 이제 Nvidia라는 단일 허브를 넘어 ① 원재료/설계 IP → ② 제조 및 패키징 → ③ 최종 고객사 로 이어지는 밸류체인 전체의 마진 재배분 단계로 진입했다.

 

Upstream: Broadcom & Marvell의 ASIC·광통신 지배력

 

Broadcom 은 Google(TPU), Meta(MTIA) 등 하이퍼스케일러 커스텀 ASIC 시장에서 약 60%의 점유율 을 유지하며 압도적인 해자를 구축하고 있다. 특히 주목할 점은 Google의 TPU v8 시리즈에서 포착되는 이원화 전략 이다. 고성능 학습(Training)용인 'Sunfish(v8AX)' 는 Broadcom이, 추론 최적화(Inference)용인 'Zebrafish(v8x)' 는 MediaTek이 각각 담당하는 분업 구조가 확인된다. 이는 학습과 추론이 서로 다른 칩 아키텍처 최적점을 요구한다는 사실의 실증이며, 추론 전용 ASIC 시장의 독립적 성장 가능성을 시사한다.

 

Broadcom의 수익 방어력은 하드웨어에만 있지 않다. 인수한 VMware 소프트웨어 사업에서 약 93%에 달하는 영업이익률 을 창출하고 있어, 반도체 하드웨어 사이클의 하강 국면에서도 수익 기반이 무너지지 않는 구조를 보유하고 있다. AI ASIC 관련 수주 잔고(백로그)가 730억 달러에 달한다는 점은 향후 수년간의 매출 가시성을 확보한 증거다.

 

Marvell 은 Microsoft Maia 시리즈의 핵심 설계 파트너이자, 1.6T 광통신 전환의 주역 이다. AI 클러스터 내·간 초고속 데이터 전송을 위한 CPO(Co-Packaged Optics) 및 광통신 솔루션 시장에서 독보적인 위치를 확보하고 있으며, '셀레스티얼 AI(Celestial AI)' 인수를 통해 광학 스케일업 커넥티비티 시장에서의 지위를 강화했다. 2027 회계연도 기준 30% 이상의 매출 성장 가이던스는 1.6T 광통신 장비와 커스텀 IP의 결합에서 비롯된 것이다.

 

Midstream: TSMC의 병목과 패키징 제약이 만드는 희소성 프리미엄

 

TSMC는 여전히 고성능 AI 칩 파운드리에서 압도적 점유율을 유지하고 있으나, 실질적 병목은 웨이퍼 자체보다 CoWoS(Chip on Wafer on Substrate) 와 같은 하이엔드 패키징 캐파 제약에 집중돼 있다. 이 공급 제약은 역설적으로 칩 업체들에게 '희소성 기반의 가격 결정권'을 부여하고 있다.

 

HBM의 제조 복잡성은 수율 60~70% 수준 과 범용 DRAM 대비 3배의 웨이퍼 소모량 이라는 두 가지 구조적 제약으로 요약된다. 삼성전자와 SK하이닉스가 제한된 클린룸 공간을 HBM 증설에 집중 배분하면서 발생한 범용 DRAM·DDR5의 공급 쇼크는 의도치 않게 범용 메모리 시장의 마진 폭발을 촉진하는 트리거가 됐다.

 

한편 HBM4의 공급 파트너십은 분명히 정리됐다. GTC 2026에서 확인된 바에 따르면, Vera Rubin 플랫폼의 Rubin GPU에는 SK하이닉스의 HBM4(스택당 36GB, 2026년 1월 양산 개시) 가 탑재되며, Vera CPU에는 SOCAMM2(Server On-module Addressable Memory) 가 적용된다. SK하이닉스는 GTC 2026에서 HBM4·HBM3E·SOCAMM2를 Vera Rubin 공급 라인업으로 공식 확인했고, 차세대 HBM4E의 전송 속도는 16Gbps, 4.0TB/s 수준으로 로드맵을 제시했다.

 

Downstream: 하이퍼스케일러의 '탈 Nvidia' 전략과 데이터 중심 수익 모델

 

MS, Google, AWS, Meta는 각각 Maia, TPU, Trainium/Inferentia, MTIA를 앞세워 Nvidia에 대한 협상력을 제고하는 동시에 와트당 성능(Performance-per-Watt)을 최적화하는 이중 전략을 추진하고 있다.

 

GTC 2026에서 Microsoft는 AI 협력 방향으로 ① AI 에이전트, ② GPU 컴퓨팅, ③ Azure AI 인프라, ④ AI 애플리케이션 개발 등 4대 축을 제시하며, Azure 인프라 전반에 Vera Rubin 플랫폼을 통합하는 계획을 확인했다. 이는 '탈 Nvidia'가 아닌 'Nvidia를 전략적으로 활용하면서 동시에 자체 칩 비중을 늘리는 복선 전략' 임을 보여준다.

 

특히 Google은 Gemini 에코시스템의 성장과 함께 자체 ASIC 배포량을 공격적으로 확대하고 있다. 이는 인프라 비용 절감과 서비스 수익성 개선이라는 선순환 구조를 형성하며, Broadcom 등 ASIC 설계 파트너의 수주 가시성을 높이는 직접적 요인이 된다.

---

4. Key Data & Evidence: 데이터가 가리키는 이익 집중의 이동

 

메모리 마진의 구조적 역설

 

시장은 HBM의 화려함에 매몰돼 있으나, 실질적인 '마진 엔진'은 범용 제품으로 회귀하고 있다. 2026년 상반기 기준, HBM3E/4의 영업이익률은 60~65% 에 머무는 반면, 서버용 DDR5는 75~82% 에 달할 것으로 추정된다.

 

이 역설의 근원은 제조 경제학에 있다. HBM 생산 시 범용 DDR5 대비 웨이퍼 소모량이 정확히 3배 에 달하고, 수율은 DDR5의 90%+ 대비 60~70% 수준 에 불과하다. 삼성전자와 SK하이닉스가 제한된 클린룸 공간에서 HBM 증설에 올인하면서 발생한 범용 DRAM의 공급 쇼크는 2026년 초 스팟 가격을 80~90% 폭등 시켰다. 삼성전자 평택 P5 공장이 본격 가동되는 2027년 이전까지, 이 '인위적 공급 부족'은 서버용 DDR5의 마진 스프레드를 사상 최대치로 유지시킬 것이다.

 

중요한 사실 하나를 추가한다. SK하이닉스의 2025년 4분기 기록적인 58% 영업이익률은 HBM뿐만 아니라 128GB DDR5 모듈의 고마진 기여 가 실질적으로 컸다는 점을 간과해서는 안 된다. 주가가 HBM 모멘텀에 과도하게 연동돼 있을 때, 실제 이익의 원천이 범용 DRAM으로 분산돼 있다는 사실은 이익의 질(Quality of Earnings)을 평가하는 데 있어 결정적인 변수다.

 

ASIC 시장의 폭발적 출하량 전망

 

전 세계 AI 서버용 ASIC 출하량은 2024년 대비 2027년까지 3배 성장 할 것으로 예측된다. 특히 2028년에는 ASIC 출하량이 1,500만 개를 돌파 하며 일반 GPU 출하량을 추월하는 역사적 변곡점을 맞이할 것으로 전망된다. 상위 10개 하이퍼스케일러는 2024~2028년 사이 누적 4,000만 개 이상의 커스텀 ASIC 을 배포할 계획이다.

 

이 수치는 Broadcom의 AI 관련 백로그 730억 달러와 AI 매출 비중이 전체의 43% 까지 치솟는 근거와 정확히 맞물린다. Marvell 또한 1.6T 광통신 장비와 커스텀 IP의 결합을 통해 2027 회계연도에 30% 이상의 매출 성장 을 가이드하고 있다.

 

인프라 병목의 정량화: 냉각·스토리지 데이터

 

액체 냉각 시장은 2033년까지 276.5억 달러 규모로 성장이 예상되며 연평균 성장률(CAGR)은 31.5% 에 이른다. Vertiv의 수주 잔고(백로그) 150억 달러 와 세 자릿수에 근접하는 유기적 주문 증가율은 인프라 병목의 심각성을 수치로 방증한다.

 

ICMS 도입에 따른 NAND 수요 충격은 이미 앞서 분석했다. Vera Rubin 서버 10만 대 배포 시 전 세계 NAND 수요의 9.3% 잠식 은, Solidigm D5-P5336(122TB QLC)과 같은 초고용량 eSSD 제품군의 ASP(평균 판매 단가) 구조적 상승을 뒷받침하며, NAND 가격 전반의 상방 압력 요인으로 작용한다.

 

이와 같은 실증 데이터는 시장의 막연한 낙관론과는 대조적으로, 철저히 효율성과 마진 극대화에 초점이 맞춰진 냉혹한 산업 현실 을 보여준다.

---

네이버 블로그

 

[2026 AI 반도체 대격변] HBM만 정답일까? 주식비서 로니가 낱낱이 파헤친 반도체 시장의 '숨겨진 주

 

유튜브

 

 

---

5. Scenario Analysis & Macro Sensitivity: 거시 변수와 EPS의 상관관계

 

거시 경제 환경과 AI Capex의 상관관계는 그 어느 때보다 밀접하다. Bull / Base / Bear 시나리오를 통해 향후 2년을 전망한다.

 

Bull Case (성공적 수익화): 

 

금리 인하 기조가 정착되며 하이퍼스케일러들의 자본 비용이 하락한다. 동시에 MS와 Google이 SMR 조기 도입에 성공해 '기가와트 실링'을 돌파하고 전력 원가를 20% 이상 절감하는 시나리오다. AI 서비스(코파일럿, 검색·광고, 엔터프라이즈 SaaS)의 FOCF(잉여영업현금흐름) 회복 속도가 빨라지며, Broadcom·Vertiv와 같은 인프라 수혜주들의 밸류에이션 리레이팅이 가속화된다.

 

Base Case (구조적 전이): 

 

현재의 공급 제약이 2027년까지 지속되지만, 이익의 중심축이 HBM에서 범용 DRAM 및 eSSD로 완만하게 이동한다. 하이퍼스케일러들은 공격적인 Capex를 유지하되, TCO 최적화를 위해 Nvidia GPU 비중을 줄이고 자체 ASIC 비중을 40% 이상 으로 확대할 것이다. 이 시나리오에서 가장 중요한 투자 기준은 '성장률'이 아닌 '추론 단가를 낮추면서 FOCF를 회복시키는 기업'의 선별이다.

 

Bear Case (좌초 자산 리스크): 

 

AI 수익화 지연으로 인해 대규모 투자가 '좌초 자산(Stranded Asset)' 으로 전락할 위험이다. 특히 Oracle과 같이 부채 레버리지를 극대화해 데이터센터를 건설하는 기업들의 신용 위험이 부각될 수 있다. Oracle의 조정 레버리지는 FY2027/28 기준 4배 중반까지 상승할 수 있으며, 매출의 1/3을 차지할 OpenAI의 결제 불이행 발생 시 신용 등급 하향 압력이 거세질 수 있다.

 

거시 경제적 불확실성 속에서 투자자들은 단순한 성장이 아닌, '수익성 있는 성장'을 증명하는 기업 으로 포트폴리오를 압축해야 한다.

---

6. Tear-down Q&A: 기관 투자자의 치명적 반박과 방어

 

매니저: "로니, 솔직히 말해봅시다. 시장은 여전히 HBM이 AI의 꽃이라고 합니다. DDR5와 eSSD 마진이 더 높다는 논리는 황당하지 않습니까? 2027년 메모리 공급 과잉 시나리오는 안 보입니까?"

 

로니: "매니저님, 주가는 가격(Price)이 아니라 이익(Profit)을 따라갑니다. HBM의 구조적 문제는 두 가지입니다. 제조 수율 60~70%, 그리고 범용 제품의 3배에 달하는 웨이퍼 소모량입니다. 반면 DDR5는 수율 90%를 상회하고, 이미 감가상각이 완료된 공정에서 생산합니다. 삼성과 하이닉스가 HBM 증설을 위해 범용 라인을 전환하면서 DDR5는 구조적으로 희소 자산이 됐습니다. 2026년 초 DDR5 가격이 80~90% 폭등한 근거가 이것입니다. 2027년 공급 과잉 우려는 신규 팹(삼성 평택 P5 등)의 램프업 시점과 HBM4 수율 안정화 시기가 겹치는 특정 레이어의 문제입니다. 그러나 이미 구조적으로 공급이 파괴된 서버용 DDR5는 그 사이클과 무관하게 역대급 마진 랠리를 이어갈 것입니다."

 

매니저: "Nvidia의 CUDA 해자는 어떻게 봅니까? 하이퍼스케일러 ASIC이 정말 유의미한 점유율을 확보할 수 있습니까? Broadcom의 마진 방어력에도 의구심이 있습니다."

 

로니: "CUDA는 범용성의 왕입니다. 그러나 추론(Inference) 단계는 범용성이 필요 없습니다. 특정 모델을 빠르고 싸게 돌리는 게 목표이기 때문입니다. Google TPU v8x 'Zebrafish'는 추론 작업에서 Nvidia GPU 대비 와트당 성능을 수배 개선합니다.

 

Broadcom은 단순한 칩 판매자가 아닙니다. 93% 마진의 VMware 소프트웨어 수익으로 기초 체력을 다지고, 730억 달러의 ASIC 백로그로 하드웨어 사이클 위험을 상쇄하고 있습니다. 그리고 주목해야 할 사실이 있습니다. Nvidia 스스로가 GTC 2026에서 Groq LPU를 200억 달러에 인수해 Vera Rubin 플랫폼에 통합했습니다. 이는 Nvidia 자신도 'GPU만으로는 추론 효율을 충분히 확보할 수 없다'는 사실을 공인한 것입니다. 이건 점유율 전쟁이 아니라, 하이퍼스케일러들이 생존을 위해 Nvidia 의존도를 낮추는 '필연적 탈출'이며, Nvidia 역시 그 구조에 적응하며 진화하는 과정입니다."

 

매니저: "에너지 문제는 어떻습니까? 기가와트 실링이 해결 안 되면 다 공수표 아닙니까? 액체 냉각이 실질적으로 돈을 벌어다 줍니까?"

 

로니: "맞습니다. 그래서 Vertiv의 백로그가 150억 달러나 쌓인 겁니다. 액체 냉각은 이미 선택이 아닌 '허가증'의 문제 입니다. 랙당 140kW 이상의 전력 밀도에서 에어컨은 물리적으로 작동하지 않습니다. Accelsius NeuCool의 2상 냉각 기술은 공랭 대비 OPEX를 35% 낮추고 TCO를 12% 개선합니다. 같은 전력 예산 안에서 5%p 더 많은 GPU를 수용할 수 있다는 건, 연간 수십억 달러의 추가 추론 매출로 직결됩니다. 전력망 한계 내에서 '토큰당 비용'을 가장 낮게 뽑아내는 기술이 곧 승자의 KPI입니다. 기술의 화려함이 아니라, 누가 더 낮은 비용으로 더 많은 토큰을 생성하느냐는 '추론의 경제학'에 집중하십시오."

---

7. Risk Factors & Bear Case: 꼬리 위험(Tail Risk) 점검

 

성공적인 투자는 잠재적 수익을 쫓는 것만큼이나, 파괴적인 위험 요소를 선제적으로 식별하고 회피하는 데서 시작된다.

 

리스크 1: 2027년 하반기 공급 과잉(Supply Glut)의 공포

 

삼성전자, SK하이닉스, 마이크론의 공격적인 설비 투자가 2027년 완료되면서 메모리 가격의 급격한 반전이 올 수 있다. NAND 가격이 2025~2026년 사이 246% 급등하며 버블을 형성한 뒤, 2027년 증설 물량이 쏟아질 경우 가격 폭락 리스크가 현실화될 수 있다. 이는 HBM4 초기 수율 안정화 국면과 맞물려 메모리 섹터 전체의 변동성을 증폭시킬 것이다. 투자자는 메모리 섹터 포지션에서 2027년 상반기 내 점진적 익절 시나리오 를 사전에 설계해야 한다.

 

리스크 2: 거래상대방 신용 위험(Counterparty Risk)과 좌초 자산

 

Oracle과 OpenAI 간의 수백억 달러 규모 계약은 양날의 검이다. OpenAI의 연간 펀딩 필요액이 막대한 수준이지만 매출 성장이 이를 따라가지 못할 경우, Oracle의 248억 달러 규모 리스 자산이 유휴화될 수 있다는 경고가 신용 분석 기관으로부터 제기되고 있다. OpenAI가 Oracle 매출의 1/3을 차지하게 될 2028년 시점, 고객사 결제 불이행은 인프라 제공업체의 연쇄적인 신용 등급 하향과 자산 가치 상각으로 이어지는 치명적 Tail Risk다. 인프라 기업 투자 시 고객 집중도(Revenue Concentration)와 부채 레버리지 수준 을 핵심 스크리닝 기준으로 반드시 적용해야 한다.

---

8. Conclusion & Valuation Implication

 

AI 인프라 투자는 이미 '구축의 시대'를 지나 '효율의 시대' 로 진입했다. 현재 주가는 Nvidia의 독점력에 과도한 프리미엄을 부여하고 있으나, 향후 시장의 밸류에이션 잣대는 다음 네 가지 지표로 재편될 것이다.

• 1.6T 광통신 및 CPO(Co-Packaged Optics) 전환 속도
• 액체 냉각 채택률과 랙당 GPU 수용 밀도 변화
• eSSD 기반 ICMS 도입률과 토큰당 스토리지 비용
• GPU 대비 ASIC·LPU 배포 비중 및 와트당 성능(Performance-per-Watt)

특히 Broadcom과 같이 ASIC 설계 해자와 소프트웨어 기반의 강력한 현금흐름을 동시에 보유한 기업, 인프라 병목 해소의 직접 수혜자인 Vertiv, 그리고 HBM 공급 집중의 반사 이익을 누리는 고성능 eSSD·DDR5 시장의 실질적 승자인 Solidigm(SK하이닉스)·삼성전자의 실적 모멘텀에 집중해야 한다. 단순한 장밋빛 전망이 아닌, '추론의 경제학'이 증명하는 냉혹한 이익 지표만이 포트폴리오의 생존을 결정할 것이다.

 

---

주식비서 로니

 

본 분석은 현재 공개된 자료와 합리적 추론을 바탕으로 작성된 참고용 리포트입니다. 투자에 대한 최종 판단과 책임은 전적으로 투자자 본인에게 있습니다.