AI 패권의 병목, GPU에서 메모리로 넘어갔다

인공지능(AI) 패권 경쟁의 병목이 그래픽처리장치(GPU) 연산에서 메모리로 옮겨갔다. 글로벌 투자은행과 리서치 기관은 메모리가 경기순환 부품에서 벗어나 인공지능 인프라의 핵심 자산으로 올라섰다고 분석한다. 그 길목을 삼성전자와 SK하이닉스가 쥐고 있다.
대규모 인공지능 모델 성능은 연산 속도보다 데이터를 얼마나 빨리 공급하느냐가 좌우한다. 연산 장치가 아무리 빨라도 데이터 공급이 따르지 못하면 유닛은 멈춰 선다. 반도체 업계는 이를 '메모리 병목(Memory Wall)'으로 부른다.

과학 매체 사이언티픽 아메리칸은 데이터를 기다리는 연산 장치를 낭비되는 하드웨어로 규정하며 메모리를 핵심 한계로 지목했다. 고대역폭메모리(HBM)는 메모리를 수직으로 쌓아 데이터 통로를 넓힌 부품으로, 연산 장치를 쉬지 않게 하는 열쇠다.

메모리의 위상 변화는 숫자로 드러난다. 분석업체 세미애널리시스는 메모리가 하이퍼스케일러 자본지출에서 차지하는 비중이 지난 2023~2024년 약 8%에서 올해 30%까지 4배 가까이 뛴다고 추정했다. 리서치기관 에포크AI도 고대역폭메모리가 인공지능 칩 부품 원가에서 차지하는 비중이 지난해 초 52%에서 연말 63%로 올랐다고 분석했다.

인공지능 데이터센터가 전 세계 고급 메모리 생산량에서 소비하는 비중은 지난 2022년 20~30% 수준에서 올해 약 70%로 급반전했다. 시장조사기관 IDC는 이를 인공지능 데이터센터로의 공급 '영구적 재배분'으로 규정했다.

핵심은 수요의 성격이 바뀌었다는 점이다. 과거 메모리는 전방 산업 경기에 따라 재고가 출렁이는 자산이었다. 그러나 장기계약 확대와 데이터센터 중심 수요로, 메모리는 경기가 아니라 인공지능 투자 규모에 직접 연동되기 시작했다.


실적이 이를 증명한다. 마이크론은 최근 발표한 2026 회계연도 3분기 실적에서 매출 414억 6000만 달러(약 64조 원), 조정 주당순이익 25.11달러를 기록하며 시장 전망치를 각각 16%, 23% 웃돌았다. 같은 분기 데이터센터 매출만 250억 달러(약 38조 원)에 달한다. 산자이 메로트라 마이크론 최고경영자는 고대역폭메모리가 내후년까지 완판되었으며 수요 강세는 오는 2028년까지 이어질 것이라고 밝혔다.
국내 기업도 깜짝 실적을 냈다. 삼성전자가 발표한 올해 1분기 잠정 영업이익은 57조 2000억 원으로 분기 사상 최대를 기록했다. 지난해 한 해 이익을 한 분기 만에 넘어선 수치다. 반도체를 담당하는 DS부문이 전체 이익의 94%를 이끌었다. 가격 상승세도 가파르다.

시장조사기관 트렌드포스는 올해 1분기 일반 D램 계약가격이 직전 분기보다 약 93% 올라 역대 최대 분기 상승폭을 기록했다고 전했다.

투자은행 전망치는 시장 예상을 크게 웃돈다. 모건스탠리는 이번 상승장을 평범한 순환 주기가 아닌 패러다임 전환으로 평가하며 국내 주요 메모리 기업의 내년과 내후년 이익 전망치가 시장 예상치를 최대 51% 상회할 것이라는 예측 보고서를 냈다. 과거 '반도체 겨울론'을 폈던 기관의 선회라 무게가 실린다. 뱅크오브아메리카는 올해를 1990년대 호황기에 버금가는 슈퍼사이클로 규정했다.

이런 흐름은 국가 안보 전략으로 번졌다. 미국 국무부는 컴퓨팅 자원과 반도체 공급망을 전략 자산으로 묶는 '팍스 실리카' 구상을 공식화했다. 컴퓨팅 능력을 통제하는 국가가 인공지능 시대 패권을 쥔다는 인식이다. 컨설팅사 GIS 리포츠는 한국을 글로벌 인공지능 시스템이 작동할 수 없는 진정한 길목을 통제하는 거점으로 지목했다.

낙관론만 있는 것은 아니다. 단기적으로는 공급 과잉에 따른 가격 조정 위험이 존재한다. 골드만삭스는 오는 2027년 말 신규 생산능력이 가동되면 가격이 꺾일 수 있다고 경고했다. 실제로 지난달에는 인공지능 칩 감산 우려에 국내 관련 주가가 하루 약 12% 급락하기도 했다. 고대역폭메모리 수율 확보 속도와 거대 기술기업들의 투자 유지 여부가 향후 시장 흐름을 결정할 핵심 변수다.


김주원 글로벌이코노믹 기자 park@g-enews.com