엔비디아 칩 빌리는데 시간당 6000원… ‘AI 배급제’에 韓 반도체·전력株 뜬다

인공지능(AI) 황금광 시대가 핵심 자원인 ‘컴퓨팅 파워’ 고갈이라는 유례없는 암초를 만났다. 생성형 AI가 스스로 판단하고 실행하는 ‘에이전트’ 단계로 진화하며 연산량과 전력 소모량이 기하급수적으로 폭증하자, 빅테크 기업들이 서비스를 제한하거나 신제품 출시를 포기하는 ‘AI 배급제’가 현실화하고 있다.
월스트리트저널(WSJ)은 지난 12일(현지시각) 컴퓨팅 용량 부족으로 인해 주요 AI 기업들이 제품 출시를 포기하거나 서비스를 제한하는 ‘AI 배급제’ 시대가 도래했다고 보도했다. 이제 글로벌 경제의 새로운 원유로 불리는 데이터 연산 능력이 한계에 부딪히면서, 단순히 기술 개발 속도뿐만 아니라 에너지 안보와 인프라 확보가 AI 패권의 핵심 변수로 떠올랐다.


최근 AI 시장은 단순 챗봇을 넘어 소프트웨어 코딩과 복잡한 일정 수립을 대행하는 ‘에이전트 AI’ 수요가 주도하고 있다. 문제는 이 과정에서 소모되는 컴퓨팅 자원이 공급 한계를 넘어섰다는 점이다.

폭증하는 데이터 처리량은 놀랍다. 오픈AI의 API 플랫폼 내 토큰(AI 연산 단위) 사용량은 지난해 10월 분당 60억 개에서 지난달 말 150억 개로 150% 급증했다.
이에 오픈AI는 차세대 모델 ‘스퍼드(Spud)’와 기업용 제품에 연산 자원을 집중하기 위해 동영상 생성 서비스 ‘소라(Sora)’ 출시를 사실상 철회했다. 사라 프라이어 오픈AI 최고재무책임자(CFO)는 “가용한 모든 컴퓨팅 자원을 찾고 있다”며 “자원 부족으로 인해 일부 사업을 포기하는 뼈아픈 선택을 하고 있다”고 밝혔다.

엔비디아의 최신 ‘블랙웰’ 칩 시간당 대여료는 두 달 전 2.75달러(약 4090원)에서 현재 4.08달러(약 6070원)로 48% 치솟았다.


AI 업계의 신뢰를 상징하는 가동률에도 빨간불이 켜졌다. 통상 소프트웨어 기업은 99.99%의 가동률(Uptime)을 보장하지만, 최근 AI 기업들은 잦은 서버 다운에 시달리고 있다.
가장 심각한 곳은 앤스로픽(Anthropic)이다. 이 회사의 클로드(Claude) API 가동률은 지난 90일간 98.95%에 그쳤다. 지난달에는 이용자가 몰리는 피크 시간대(태평양 표준시 기준 오전 5시~11시)에 토큰 사용량을 강제로 제한하는 조치까지 단행했다.

아미르 하기갓 바세텐 최고기술책임자(CTO)는 “데이터베이스나 결제 시스템인 스트라이프 같은 서비스에서 이런 가동률은 상상할 수 없는 일”이라며 “신뢰성이 생명인 기업용 시장에서 AI 서비스의 품질 저하는 치명적이다”라고 지적했다.


글로벌 AI 인프라의 병목 현상은 제조업과 에너지 기술에 강점을 가진 한국 산업계에 거대한 기회의 문을 열어주고 있다.

첫째, HBM 및 전력 인프라의 ‘슈퍼 사이클’ 지속이다. 제한된 연산 자원 내에서 효율을 극대화해야 하는 빅테크들에게 SK하이닉스와 삼성전자의 고대역폭메모리(HBM)는 대체 불가능한 필수재다. 또한, 폭증하는 전력 수요를 감당하기 위한 초고압 변압기 등 전력 기기 수요는 HD현대일렉트릭 등 국내 관련 기업들에 장기적인 수혜를 안길 전망이다.
둘째, 기업의 ‘멀티 LLM’ 및 에너지 안보 전략이다. 국내 기업들은 특정 AI 모델의 서비스 중단 리스크에 대비해 여러 모델을 병행 운용하는 체계를 갖춰야 한다. 국가적으로는 AI 경쟁력이 곧 ‘전압’과 ‘에너지량’에서 결정된다는 점을 직시하고, 원전 및 소형모듈원전(SMR)을 포함한 안정적인 에너지 공급망 확충을 AI 국가 전략의 최우선 순위에 두어야 한다.

셋째, 시장 참여자의 투자 안목도 중요하다. 투자자와 업계 관계자들은 향후 엔비디아 GPU의 스팟 가격 변동과 미국 빅테크의 분기별 설비투자(CAPEX) 규모, 그리고 구리·변압기 등 핵심 기자재 가격 지수를 병목 현상 해소의 가늠자로 활용해야 한다.

종합하면, AI 혁명의 엔진은 꺼지지 않았으나 이를 가동할 ‘연료(전력)’와 ‘엔진 부품(GPU·메모리)’이 턱없이 부족한 상태다. 이 결핍의 시대를 먼저 읽고 인프라를 선점하는 국가와 기업이 향후 10년의 AI 주도권을 쥐게 될 것이다.


김주원 글로벌이코노믹 기자 park@g-enews.com