HBM4 가격 폭발… 2100만 달러 AI 랙, 기회인가 정점인가

인공지능(AI) 서버 가격이 천문학적인 수준으로 치솟으며 빅테크 기업의 투자 수익률(ROI)에 대한 의문이 커지고 있다. 엔비디아의 차세대 AI 서버 랙 가격이 최대 2100만 달러(약 316억 원)에 이를 것이라는 전망이 나왔다.
핵심 원인은 고대역폭메모리(HBM) 차세대 규격 도입에 따른 원가 상승과 첨단 패키징 공정의 복잡화다. 뱅크오브아메리카(BofA) 글로벌리서치와 모건스탠리 등 주요 투자은행의 분석을 종합하면, 이번 단가 상승은 한국 메모리 반도체 기업의 가치평가를 지탱하는 기회인 동시에 빅테크의 설비투자(CAPEX)를 위축시킬 수 있는 대형 하방 위험이기도 하다.


엔비디아의 차세대 아키텍처인 루빈(V200)과 루빈 울트라(V300) 기반 서버 랙의 예상 원가는 기존 세대와 비교해 가파르게 상승한다.
블랙웰(B200) 기준 랙이 300만~400만 달러(약 45억~60억 원) 수준이었음을 감안할 때, 2027년 양산 예정인 루빈 울트라 '카이버(Kyber)' 랙은 2100만 달러에 달해 약 5~7배 수준의 가격 급등이 예상된다. 미국 IT 매체 Wccftech는 9일(현지시각) 이 같은 내용의 투자은행 원가 분석 보고서를 인용해 보도했다.

가격 폭등의 핵심 요인은 HBM4와 HBM4e 등 차세대 메모리다. 루빈 울트라 랙 하나에 들어가는 HBM4e 용량은 총 8만 2944기가바이트(GB)에 달하며, 1GB당 단가는 기존 HBM3e(11.26달러)보다 60% 이상 높은 18.49달러(약 2만 7800원)로 추정된다.

주목할 점은 원가 비중이다. GPU와 HBM을 합친 비용이 전체 랙 원가의 절반 이상을 차지하는 구조가 고착화되고 있다. HBM 하나만으로도 랙당 153만 4000달러(약 23억 1100만 원)에 달하는 비용이 발생하며, 이는 기존 서버 랙 전체 가격에 육박하는 수준이다.


이번 가격 상승은 단순한 메모리 단가 인상을 넘어선 구조 변화를 내포한다. HBM4부터는 베이스 다이(기초 공정)를 기존 메모리 공정이 아닌 TSMC 등 파운드리 업체의 초미세 공정으로 제작해야 한다. 이는 메모리 공급 확대만으로 가격이 하락하지 않는 구조 변화를 의미한다.
메모리 업체가 증설하더라도 파운드리와 패키징 생태계의 총합 능력이 가격을 결정하는 병목 구간이 존재하기 때문이다.

마이크론이 2035년까지 2500억 달러(약 376조 원)라는 천문학 투자 계획을 발표했음에도, 생태계 의존도가 높은 HBM4 공급난을 얼마나 빠르게 해소할지는 미지수다. CNBC는 9일(현지시각) 마이크론의 신규 투자 소식을 전하며 메모리 수요 폭발에 따른 미국 내 공급망 강화 움직임을 집중 보도했다.

엔비디아는 성능 향상을 통해 운영 효율을 높여 장기 총소유비용(TCO)을 개선하겠다는 입장이다. 특히 AI 수익화의 핵심이 학습(Training)에서 추론(Inference)으로 이동하면서, 성능 대비 운영비 효율이 기업의 투자 판단을 가를 핵심 변수로 떠올랐다.

그럼에도 빅테크 기업들이 수익화 속도를 내지 못한다면, 랙당 2100만 달러에 달하는 설비투자는 한계에 부딪힐 수밖에 없다.

투자자들이 향후 AI 반도체 사이클의 정점을 가늠하기 위해 주시해야 할 징후는 세 가지다.

첫째, 하이퍼스케일러의 AI 매출 대비 설비투자 비율(ROI 기준선)이다. 2026년 하반기 이후 기업들의 실적 발표에서 투자 회수 속도가 예상치에 미치지 못한다면 투자 축소의 강력한 신호가 된다.

둘째, GPU 주문 리드타임과 계약 갱신 동향이다. 2027년 초 예정된 대규모 계약 갱신 구간에서 수요 둔화 징후가 나타나거나 인도 대기 시간이 급격히 줄어든다면 이는 전방 수요 둔화의 직접 지표다.

셋째, HBM 현물 가격의 방향성이다. 공급 과잉이나 빅테크의 내년 하반기 이후 물량 조절 움직임이 선반영되며 HBM 가격이 하락세로 돌아서는 시점이 시장의 변곡점이 될 것이다.

이 같은 환경에서 한국 반도체 기업들의 포지션은 더욱 분화될 전망이다. SK하이닉스는 시장 선도자로서 HBM 고부가가치 효과를 누리겠지만, 삼성전자는 파운드리와 패키징을 결합한 턴키 전략의 성패가 변수다. 이번 사이클은 단순히 메모리 공급량의 문제가 아니라, AI 인프라 전체의 경제성을 증명해야 하는 고차원 검증 무대가 되고 있다.


김주원 글로벌이코노믹 기자 park@g-enews.com