“전기 먹는 하마 AI를 살려라”…엔비디아·삼성·TSMC가 설계도를 ‘거꾸로’ 뒤집는 이유

인공지능(AI) 데이터센터의 전력 한계는 이제 성능 경쟁의 부작용이 아니라, 시스템 확장의 직접적인 제약으로 작용하고 있다. 인공지능 연산에 필요한 전력과 열이 급증하면서, 단일 칩의 성능을 높이는 방식만으로는 더 이상 서버와 데이터센터를 확장하기 어려워졌다. 이에 따라 주요 글로벌 반도체 기업들은 전력과 열 문제를 해결하는 방법뿐 아니라, 그 문제를 다루는 위치 자체를 옮기고 있다. 이 같은 변화는 선언이나 하나의 제품 발표가 아니라, 특허와 표준 참여, 공급망 투자, 제품과 플랫폼 명세에 흩어져 있는 공개 단서들을 통해 동시에 포착된다.

전력 전달을 칩 설계가 아니라 전력이 흐르는 길과 데이터가 흐르는 길을 물리적으로 분리하는 것을 가능하게 만드는 반도체 적층 구조(공정 아키텍처)에서 해결하려는 움직임은 최근 공개된 공정 기술에서 분명히 드러나고 있다. 인텔은 전력을 칩의 앞면 배선이 아니라 뒷면에서 직접 공급하는 백사이드 전력 구조를 차세대 공정의 핵심으로 제시했다. 이는 회로가 복잡해질수록 전력이 돌아가는 길이 길어지고 손실과 발열이 커지는 문제를, 전력 경로 자체를 단순화해 해결하려는 시도다. TSMC 역시 차세대 공정 로드맵에서 전력 레일 구조를 핵심 요소로 배치하며, 배선 혼잡과 전압 강하를 회로 최적화가 아니라 공정 구조 변화로 대응하고 있다. 두 기업 모두 전력 한계를 트랜지스터 성능 문제가 아니라, 전기를 전달하는 구조의 문제로 재정의하고 있다는 점에서 같은 방향에 서 있다.


여러 개의 칩을 하나의 시스템처럼 연결하는 칩렛 구조에서도 전력 문제는 중심 의제로 떠올랐다. UCIe는 서로 다른 칩을 하나의 패키지 안에서 연결하기 위한 공통 규칙인데, 단순히 데이터를 빠르게 주고받는 것뿐 아니라 연결 과정에서 발생하는 전력 손실과 열을 줄이는 것이 핵심 목표로 설정돼 있다. 이 표준에 엔비디아와 TSMC, 삼성전자, 인텔이 동시에 참여하고 있다는 점은, 칩 간 연결 방식이 곧 전력 효율 경쟁으로 이어지고 있음을 보여준다. CXL 역시 메모리를 필요에 따라 확장하기 위한 표준이지만, 실제 논의의 중심은 메모리를 더 많이 쓸 때 증가하는 전력 소모와 이를 시스템 전체에서 어떻게 관리할 것인가에 맞춰져 있다. 이 표준 논의에 삼성전자와 SK하이닉스가 깊이 관여하고 있다는 점은, 메모리 역시 전력 한계 대응의 핵심 축으로 이동했음을 의미한다.

전력 한계 대응은 기술 문서에 머물지 않고 생산 인프라 투자로 이어지고 있다. 고대역폭 메모리는 여러 개의 메모리 칩을 수직으로 쌓아 대역폭을 높이는 구조인데, 적층 수가 늘어날수록 전력과 발열 문제가 급격히 커진다. 이에 따라 SK하이닉스는 메모리를 쌓고 연결하는 첨단 패키징 공정에 대한 대규모 투자를 공식화했고, TSMC와 협력하는 후공정 업체들 역시 고급 패키징 설비를 확대하고 있다. 패키징은 더 이상 칩을 감싸는 마무리 단계가 아니라, 전력과 열을 분산시키는 핵심 설계 영역으로 바뀌고 있다. 동시에 데이터센터에서는 공기 대신 액체를 이용해 열을 식히는 방식이 빠르게 확산되고 있다. 이는 칩 성능보다 시스템 전체를 안정적으로 운영하는 것이 더 중요해졌다는 판단이 인프라 투자로 이어지고 있음을 보여준다.


이러한 변화는 제품과 플랫폼을 설명하는 방식에서도 확인된다. TSMC는 빛을 이용해 데이터를 전달하는 코패키지드 옵틱스를 고급 패키징 로드맵에 포함시키며, 데이터 이동에 드는 전력을 패키지 내부에서 줄이겠다는 방향을 명확히 했다. 이는 칩과 칩 사이, 서버와 서버 사이의 데이터 이동이 연산 자체보다 더 많은 전력을 소모하는 상황에 대한 대응이다. 인텔은 차세대 공정에서 전력 공급 구조 전환 시점을 구체적으로 제시했고, 엔비디아는 개별 가속기 성능보다 여러 서버를 묶은 랙 단위 시스템을 중심으로 플랫폼 설명을 전환하고 있다. 메모리 분야에서도 HBM4 전환 과정에서 속도보다 전력 효율과 발열, 장기 안정성이 주요 기준으로 강조되며, 성능 중심 세대 교체와는 다른 평가 잣대가 적용되고 있다.

인공지능 데이터센터의 전력 한계는 더 빠른 칩 하나로 해결할 수 있는 문제가 아니며, 문제를 해결하는 무대가 칩 내부에서 공정 구조와 패키징, 냉각과 데이터 이동을 포함한 시스템 전체로 이동하고 있다. 주요 반도체 기업들이 서로 다른 방식으로 움직이는 듯 보이지만, 공개 단서들이 가리키는 방향은 놀랄 만큼 닮아 있다. 경쟁의 기준은 최고 성능이 아니라, 제한된 전력 안에서 시스템을 얼마나 안정적으로 확장할 수 있는 구조를 먼저 완성하느냐로 옮겨가고 있다.

이교관 글로벌이코노믹 기자 yijion@g-enews.com