HBM 공급 2/3 장악한 한국…삼성·SK하이닉스, AI 칩 전쟁의 진짜 승자

AI 칩 전쟁의 최후 수혜자는 반도체를 직접 설계하는 기업이 아닐 수 있다.
어떤 AI 가속기가 시장을 장악하든, 그 칩이 처리할 데이터를 실시간으로 공급하는 고대역폭메모리(HBM)의 78%는 삼성전자와 SK하이닉스가 쥐고 있다. 트렌드포스에 따르면 올해 HBM 점유율은 SK하이닉스 50%, 삼성전자 28%, 마이크론 22%로 삼성전자가 지난해 20%에서 빠르게 격차를 좁히고 있다. 전 세계에서 생산되는 HBM 10개 가운데 8개꼴이 한국산이라는 계산이 나온다.

전쟁발 공급망 불안에 고물가·고금리까지 겹친 3중고에도 2026년 구글·마이크로소프트·아마존·메타 등 빅테크 4사의 AI 데이터센터 투자는 전년 대비 60~70% 급증한 6500억 달러(약 972조 원)가 '확정된 투자 계획에 따라 집행 중이다. 이 거대한 투자의 물리적 상한을 결정하는 부품이 바로 HBM이다. 한국 반도체 산업이 진입한 슈퍼사이클의 구조적 실체를 다시 짚어본다.


메모리 반도체 시장의 중심축이 PC·스마트폰에서 AI 데이터센터로 완전히 교체됐다. 생성형 AI가 대규모 학습 단계를 넘어 실시간 '추론' 서비스로 진화하면서, 방대한 데이터를 지연 없이 처리할 수 있는 HBM이 AI 인프라의 새로운 병목으로 떠올랐다. 생성형 AI가 사용자에게 실시간 답변을 제공하는 '추론' 단계에서는 방대한 데이터를 초고속으로 읽고 써야 하는데, 이때 데이터 처리 속도가 연산 속도를 따라가지 못하는 '메모리 벽(Memory Wall)' 현상이 발생한다.
HBM은 D램을 수직으로 쌓아 데이터 전송 속도를 일반 메모리의 10배 이상으로 끌어올린 제품이다. HBM은 수천 개의 구멍(TSV)을 뚫어 데이터를 한꺼번에 주고받는 '통로'를 극대화한 제품으로, 수억 명의 유료 구독자가 동시에 복잡한 질문을 던질 때, 이를 지연 없이 처리하기 위해서는 HBM 외에는 대안이 없다.

아무리 강력한 AI 가속기라도 HBM이 받쳐주지 않으면 설계 성능을 구현할 수 없다. 엔비디아 칩이 HBM 수요의 가장 큰 진원지가 된 이유다.

김동원 KB증권 리서치본부장은 "AI 서비스가 상업화되고 추론 단계로 진화할수록 대용량 데이터 처리를 위한 서버용 D램 수요도 급증한다"며 "2026~2027년 HBM4와 서버용 D램, 기업용 SSD 등 전 영역에서 공급이 수요를 따라가지 못하는 역대급 공급 부족이 전개되고 있다"고 진단했다.

세계반도체무역통계기구(WSTS)는 올해 글로벌 반도체 시장이 전년 대비 25% 이상 성장해 약 9750억 달러(약 1459조 원)에 이를 것으로 내다봤다. 메모리 부문의 성장률은 30%대로, 전체 평균을 크게 웃돈다.

구글(TPU)·마이크로소프트(마이아)·메타(MTIA)·아마존(트레이니엄) 등 하이퍼스케일러들은 고가의 엔비디아 GPU 의존도를 낮추기 위해 자체 AI 칩, 즉 주문형 반도체(ASIC) 개발에 총력을 기울이고 있다. KB증권은 현재 7대 3인 GPU와 ASIC의 비중이 2027년 5대 5까지 수렴할 것으로 내다본다.

그러나 이 경쟁의 아이러니는 명확하다. 어떤 칩을 설계하더라도 그 칩에 데이터를 공급하는 HBM 외에는 우회로가 없다. 골드만삭스는 2026년 GPU향 HBM 수요가 전년 대비 23% 성장하는 데 그치는 반면, ASIC향 수요는 82% 폭증해 전체 HBM 시장에서 ASIC 비중이 33%까지 확대될 것으로 분석했다. 카운터포인트리서치는 AI 서버 ASIC에 탑재되는 HBM 비트 수요가 2024년부터 2028년까지 35배 성장할 것으로 전망한다.

공급 불안은 빅테크 최고위층에서도 공개적으로 터져 나온다. 메타의 지운 송(Jiun Song) 부사장은 CNBC 인터뷰에서 "HBM 공급에 매우 우려하고 있다"고 털어놨다. 업계에 따르면 하이퍼스케일러들은 이미 수년치 메모리 물량을 선제 확보하기 위한 장기 공급 계약 경쟁에 돌입한 상태다.
이란전쟁 이후 고물가·고금리, 공급망 불안이라는 3중고에도 빅테크가 이 천문학적 투자를 중단할 수 없는 데는 구조적 이유가 있다. AI 시장은 초기 인프라를 확보한 기업이 생태계 전체를 지배하는 '선점 효과'가 극단적으로 강하다. 챗GPT·코파일럿 등 유료 구독 서비스를 통해 수익성 공식이 검증된 데다, 한 번 AI 추론을 경험한 구독자는 서비스 후퇴를 용납하지 않는다는 점이 빅테크 간 투자 경쟁을 더욱 압박하고 있다. 업계에서는 한 번 AI 인프라에 발을 들인 기업이 중간에 멈추면, 기존 시스템과의 호환 문제와 운영 효율 급락으로 인해 차라리 계속 투자하는 것이 더 싸게 먹히는 단계에 접어들었다는 분석이 나온다.


증권가에서는 SK하이닉스와 삼성전자의 올해 합산 영업이익이 최소 230조 원에서 최대 330조 원에 이를 것으로 예상하고 있다. 대신증권은 SK하이닉스 단독으로 올해 매출 165조 원, 영업이익 100조 원 돌파를 전망했다. 노무라증권은 삼성전자의 올해 영업이익을 133조4000억 원으로 제시했다. 삼성전자 역대 최고 영업이익이 2018년의 58조8867억 원이었다는 점을 감안하면, 2배를 훨씬 웃도는 사상 첫 세 자릿수 조 원 달성이 점쳐지는 셈이다.

투자 규모도 전례 없는 수준이다. SK하이닉스는 청주 M15X 팹에만 20조 원 이상을 투입하고, 용인 반도체 클러스터 투자를 당초 120조 원에서 600조 원으로 5배 확대한다는 방침을 세웠다. 삼성전자는 HBM 월 생산량을 17만 장에서 20만 장 이상으로 끌어올리기 위해 평택 P4 라인 준공 일정을 앞당기고 있다.

현대차증권은 올해 D램 시장 규모가 2800억 달러(약 419조 원)로 72.2% 팽창하고, 글로벌 AI 데이터센터 투자 총액은 8200억 달러(약 1226조 원)에 달할 것으로 추산했다.


호재 일색의 전망 속에서도 냉정한 반론은 분명히 존재한다.

골드만삭스는 HBM 공급 과잉 가능성을 거론하며 올해 가격이 최대 10% 하락할 수 있다고 경고했다. 미·중 반도체 갈등이 고조되는 가운데 미국의 대중 수출 규제 강화는 한국 기업의 중국 공장 운영에 불확실성을 더하고 있다.

빅테크의 투자 여력 자체도 세 가지 구조적 제약에 묶여 있다. 첫째, 전력망과 냉각 인프라의 물리적 한계다. 자본이 있어도 데이터센터를 돌릴 전력과 냉각 용수 확보가 병목이 되고 있다. 둘째, 고금리 기조 속 대규모 회사채 발행에 따른 재무 건전성 악화 우려다. BNP파리바·JP모건 자산운용은 빅테크들의 잉여현금흐름(FCF)이 마이너스로 전환될 조짐을 경고했다. 셋째, 적은 연산으로 유사한 성능을 구현하는 소형 언어모델(sLLM)이 대세화될 경우 수천억 달러 규모 데이터센터의 가치가 급락하는 '자산 함정' 시나리오다.

최태원 SK그룹 회장도 지난 2월 워싱턴DC에서 "1000억 달러(약 150조 원)의 이익이 될 수도, 반대로 1000억 달러의 손실이 될 수도 있다"며 AI 산업의 극단적 양면성을 공개 경고했다.


6500억 달러 투자 계획의 집행 방식을 가르는 결정적 변수는 이란전쟁의 향방이다.

4월 내 종전이 현실화될 경우, 빅테크의 투자는 '규모 확대'와 '시기 앞당기기'가 동시에 전개될 수 있다. 하반기로 예정된 데이터센터 착공과 HBM4 등 차세대 부품 발주가 2분기 말로 앞당겨지고, 에너지 가격 하락으로 확보된 운영비 여유가 곧바로 설비 투자로 전환되는 선순환이 형성될 것으로 기대된다. 당초 발표한 6500억 달러를 상회할 가능성도 배제할 수 없다. 데이터센터 운영 비용의 약 40~50%가 전력비에서 발생한다. 조기 종전으로 에너지 가격이 하락하면, 마이크로소프트(MS)나 구글 같은 기업들은 절감된 운영비(OPEX)를 고성능 칩 구매나 인프라 확장(CAPEX)으로 즉각 재할당할 여력이 생긴다.

지난 14일 발표된 가트너(Gartner)의 수정 보고서에 따르면, 공급망 병목 현상이 2분기 내 해소될 경우 글로벌 AI 반도체 및 인프라 투자 규모가 기존 전망치인 6500억 달러를 넘어 7200억 달러(약 1077조 원) 수준까지 상향 조정될 수 있다고 분석했다.

반면 전쟁이 5월 이후로 장기화될 경우, 빅테크들은 총투자액은 유지하되 집행 방식을 '양적 확대'에서 '질적 고도화'로 전환할 것이다. 블룸버그 인텔리전스(Bloomberg Intelligence)와 번스타인(Bernstein)은 ‘선택과 집중’ 전략이 대세가 될 것으로 보고 있다.

신규 데이터센터 건립 등 대규모 물리적 인프라 투자는 6개월~1년 단위로 이연될 수 있다. 고유가 상황에서는 대규모 데이터센터 착공과 같은 ‘토목·전기 설비’ 투자가 자본 비용 부담으로 인해 뒤로 밀릴 가능성이 크다. 실제로 일부 빅테크는 에너지 수급이 불안정한 지역의 데이터센터 완공 시점을 2026년 말에서 2027년 초로 조정하는 안을 검토 중이라는 소식이 전해지고 있다. 우드맥켄지는 호르무즈 해협 봉쇄 등으로 유가가 배럴당 150달러를 돌파할 경우 데이터센터 운영비 폭등으로 주주 압박이 거세질 것이라고 경고한다. IDC와 모건스탠리는 전쟁 장기화 시 글로벌 IT 지출 성장률이 기존 전망치보다 최소 1~2%포인트 낮아질 것으로 분석했다.

반면, 자체 AI 칩(ASIC) 완성도와 최신 HBM 확보에는 오히려 예산이 집중될 것이다. 인프라 확장은 늦추더라도, 엔비디아의 차세대 칩이나 SK하이닉스의 HBM4와 같은 최신 부품 확보는 양보할 수 없는 영역이다. 이는 기술 격차가 벌어지는 것을 방지하기 위한 ‘방어적 투자’ 성격이 강하다.

두 시나리오 모두에서 공통 결론은 하나다. 전쟁이 일찍 끝나면 HBM 수요 총량이 커지고, 전쟁이 길어지면 빅테크가 자체 칩에 집중하면서 ASIC향 HBM 수요가 더욱 가파르게 오른다는 점이다. 어느 경로든 한국산 고효율·저전력 HBM에 대한 의존도는 줄어들지 않는다.


리스크와 변수를 모두 감안해도 공급 측면의 구조적 희소성은 흔들리지 않는다. HBM 하나를 생산하려면 일반 D램의 3배에 달하는 웨이퍼가 필요하고, 공정 복잡도가 높아 단기 증설은 물리적으로 불가능하다. SK하이닉스는 올해 HBM 물량 전량이 이미 완판됐고 2027년까지 공급 부족이 이어질 것이라고 공식화했다. 삼성전자와 마이크론도 올해 생산 예정 물량 전체에 대한 고객 주문을 확보한 상태다.

UBS는 엔비디아 차세대 '루빈' 플랫폼에 탑재될 HBM4 시장에서도 SK하이닉스가 약 70%의 점유율을 유지할 것으로 예상했다. 노근창 현대차증권 리서치센터장은 "AI 데이터센터 과잉 투자 우려와 거품론은 아직 그런 고민을 하기에 너무 이른 시점"이라고 못 박았다.

'HBM 없이 AI 가속화는 없다'는 명제는 당분간 바뀌지 않는다. AI 칩 전쟁에서 승패가 갈리는 순간에도, 그 전쟁의 모든 참전자는 한국산 HBM을 구매해야 한다. 공급 희소성과 구조적 수요 팽창이 맞물린 이 교차점에서, 한국 반도체의 슈퍼사이클은 여전히 진해 중이다.


김주원 글로벌이코노믹 기자 park@g-enews.com