[김대호 진단] 반도체 열전 (21) AMD... 엔비디아 "게 섰거라" 실리콘밸리 불사조

[김대호 진단] 반도체 열전 ⑱ AMD, 엔비디아 "게 섰거라"… 실리콘밸리 불사조의 반격"
불사조(不死鳥)란 '죽지 않는 새(鳥)'라는 뜻이다. 그리스 신화 속 피닉스(Phoenix)를 번역한 단어가 바로 불사조이다. 수백 년을 산 뒤 스스로 몸을 불태워 그 재 속에서 다시 태어난다는 전설상의 새이다. 영원한 생명, 부활, 불굴의 의지를 상징한다.

죽었다가도 또 살아나는 놀라운 생명력의 화신이다. 반도체의 본 고장 실리콘밸리에도 불사조가 있다. AMD가 그 불사조의 대명사이다.

.세계 반도체 잔혹사에서 AMD만큼 끊임없이 죽음의 문턱을 넘나들며 부활을 거듭한 기업은 없다. 중앙처리장치(CPU) 시장에서는 거대 공룡 인텔(Intel)의 그늘에 가려진 만년 2인자였고, 그래픽처리장치(GPU) 시장에서는 엔비디아(NVIDIA)의 압도적인 기술력에 밀려 고전을 면치 못했던 가련한 보조자였다. AMD는 더 이상 누군가의 에코시스템에 얹혀가는 조연이 아니다. '리사 수(Lisa Su)'라는 불세출의 리더십 아래 벼랑 끝에서 AMD는 다시 살아나고 있다. 엔비디아가 독점해 온 AI 가속기 생태계에 균열을 내며 "게 섰거라, 엔비디아"를 외치고 있다.
1980년대 초, IBM이 개인용 컴퓨터(PC) 시장에 진출하면서 PC의 두뇌로 인텔의 x86 마이크로프로세서를 채택했다. 이때 IBM은 공급 안정성을 위해 인텔에 '세컨드 소스(복수 공급처)'를 요구했다. 인텔은 어쩔 수 없이 라이선스를 AMD에 제공해야 했다. 이것이 AMD가 x86 제국의 라이선스를 획득하게 된 역사적 계기였다.

세컨드 소스에서 독자 건축가로인텔의 그림자 아래 거하던 AMD는 1990년대에 이르러 독자 행보를 선언했다. 인텔이 라이선스 계약을 파기하려 하자 수년간의 피 말리는 법정 공방 끝에 x86 호환 칩 생산 권리를 지켜냈다. 그리고는 마침내 독자적인 아키텍처 개발에 착수했다.AMD의 역습은 기술의 패러다임을 바꿈으로써 이루어졌다.최초의 1GHz 벽 돌파 (Athlon 프로세서): 1999년 출시된 Athlon(아슬론)은 인텔의 펜티엄(Pentium) 시리즈를 성능에서 제압하며 시장에 큰 충격을 주었다. PC 마니아들 사이에서 "성능은 AMD"라는 공식이 처음으로 성립된 순간이었다.

인텔이 기존 32비트와 호환되지 않는 고가의 아이테니엄(Itanium) 아키텍처로 선회하며 오만을 부릴 때, AMD는 기존 32비트 프로그램과 완벽히 호환되는 64비트 확장 기술(AMD64)을 선보였다. 결국 인텔조차 AMD가 만든 64비트 표준을 역으로 라이선스받아 사용하는 수치를 겪어야 했다. 단일 코어 x86 프로세서 출시: 단일 코어의 클록 속도 경쟁이 한계에 다다랐음을 먼저 간파한 AMD는 하나의 칩 안에 두 개의 코어를 집적한 듀얼코어 타일 구조를 선보이며 데이터센터와 서버 시장을 뒤흔들었다. 승전가는 오래가지 않았다. 2006년 그래픽 칩셋 업체인 ATI를 54억 달러라는 거금에 무리하게 인수하면서 천문학적인 채무에 시달리게 되었고, 설상가상으로 인텔의 '코어(Core) 아키텍처' 반격과 AMD 자체의 '불도저(Bulldozer) 아키텍처' 실패가 겹치면서 파산 직전까지 내몰렸다.

오늘날 AI 반도체 시장의 절대군주로 군림하고 있는 엔비디아의 수장, 젠슨 황(Jensen Huang) 회장과 AMD 사이에는 흥미로운 역사적 인연이 있다. 젠슨 황은 오레곤 주립대학을 졸업한 후 1983년부터 1985년까지 첫 직장으로 AMD에 입사하여 마이크로프로세서 설계 엔지니어로 근무했다. 즉, 현재 AMD의 최대 숙적인 엔비디아의 창업자가 기술적 내공을 다진 친정이 다름 아닌 AMD였던 셈이다. AMD에서 쌓은 칩 설계 경험은 훗날 젠슨 황이 LSI 로직을 거쳐 1993년 엔비디아를 창업하는 결정적인 자산이 되었다. 젠슨 황과 리사 수가 친척 관계(젠슨 황 회장은 리사 수 CEO의 당숙)라는 사실이 알려지면서, 반도체 산업의 위대한 두 거인이 모두 동일한 가문과 동일한 기술적 뿌리(AMD)에서 출발했다는 사실은 실리콘밸리 역사상 가장 드라마틱한 상징으로 남아있다
2014년, 주가가 2달러 선까지 폭락하고 시장 점유율이 궤멸 수준에 도달했을 때, 대만계 미국인 여성 공학자 리사 수(Lisa Su) 박사가 사장 겸 CEO로 취임했다. MIT 재료공학 박사 출신인 그녀는 단순한 경영자가 아니라 칩의 물리적 특성을 완벽히 이해하는 엔지니어였다.리사 수 CEO는 비핵심 사업을 매각하고 자금을 끌어모아 승부수를 던졌다. 바로 'Zen 아키텍처'의 개발과 '칩렛(Chiplet) 구조'의 도입이었다.과거에는 하나의 거대한 실리콘 웨이퍼 다이(Die)에 모든 코어를 몰아 넣었기 때문에 결함이 발생하면 칩 전체를 버려야 했고 생산 단가가 극도로 높았다.

리사 수는 연산을 담당하는 작은 CPU 다이(CCD)들과 입출력을 담당하는 I/O 다이를 따로 제조한 뒤, 이를 하나의 패키지로 정밀하게 연결하는 '칩렛' 전략을 세계 최초로 대규모 상용화했다. 이로써 제조 단가를 인텔의 절반 이하로 낮추면서도 수율을 비약적으로 끌어올렸다.2017년 출시된 라이젠(Ryzen)은 소비자용 PC 시장을 흔들었고, 데이터센터용 프로세서인 에픽(EPYC)은 인텔이 99% 독점하던 서버 시장을 차례로 침식해 들어갔다. 리사 수 취임 당시 2달러에 불과했던 주가는 100배 이상 치솟았고, 2022년에는 AMD의 시가총액이 역사상 처음으로 인텔을 제지하는 역사적 사건을 만들어냈다.

Instinct MI300 시리즈와 엔비디아 독점 구도의 균열CPU 시장에서 인텔을 상대로 위대한 승리를 거둔 AMD의 다음 목표는 명확했다. 엔비디아가 H100, B200 등 B2B AI 가속기 시장의 90% 이상을 독식하고 있는 AI 생성형 생태계의 철옹성을 깨는 것이었다.그 선봉장에 선 무기가 바로 Instinct MI300 시리즈(MI300X, MI300A)이다.)MI300X는 3D 패키징 기술을 활용하여 1,530억 개의 트랜지스터를 하나의 칩에 집적했다. 특히 경쟁 제품 대비 2배 이상 높은 192GB의 대용량 HBM3 메모리를 탑재하여, 거대언어모델(LLM)의 추론(Inference) 과정에서 엔비디아 H100 대비 우수한 가성비와 전력 효율성을 자랑한다.

빅테크 기업들(마이크로소프트, 메타, 딥시크 등)이 엔비디아의 비싼 칩 가격과 물량 부족에 신음할 때, AMD는 '가장 현실적이고 강력한 대안'으로 급부상했다.6. 글로벌 거대 생태계 동맹: 엔트로픽과의 연대와 ROCm 오픈소스 반격엔비디아의 진정한 무서움은 단순한 GPU 성능이 아니라 20년간 구축해 온 독점적 소프트웨어 플랫폼 'CUDA(쿠다)'에 있다. 개발자들이 CUDA에 귀속되어 있는 한 HW 칩만 바꿀 수 없기 때문이다.AMD는 이 CUDA의 벽을 허물기 위해 오픈소스 생태계인 ROCm(Radeon Open Compute platform)에 사활을 걸고 투자를 집행하고 있다. 이 과감한 소프트웨어 반격의 중심에 위치한 전략적 파트너가 바로 최첨단 AI 연구 기업 엔트로픽(Anthropic)이다
AMD는 클로드(Claude) 모델을 개발한 엔트로픽과 깊숙한 기술 동맹을 맺고, 엔트로픽의 최신 거대언어모델 연산에 AMD Instinct 가속기를 전면 배치했다. 소프트웨어 최적화를 위해 엔트로픽과 협력하며 ROCm의 안정성을 엔비디아 CUDA 수준으로 끌어올리는 작업을 진행하고 있다.빅테크 기업들 역시 단일 공급자에 종속되는 위험(Single-vendor risk)을 피하기 위해 AMD-엔트로픽 동맹을 적극 지원하고 있으며, 이는 AI 가속기 시장이 '독점'에서 '양강 구도'로 재편되는 결정적 계기가 되고 있다.AMD의 AI 반도체 영토 확장 과정에서 절대 빼놓을 수 없는 핵심 파트너가 바로 대한민국 삼성전자(Samsung Electronics)이다. AMD와 삼성전자의 협력은 단순한 부품 매매 관계를 넘어, 메모리-파운드리-모바일 AP 전체를 아우르는 전략적 혈맹 관계이다.

AMD의 MI300X가 시장에서 폭발적인 반응을 얻기 위해서는 고성능 메모리인 HBM(고대역폭 메모리)의 수급이 필수적이다. 삼성전자는 AMD에 초고속 HBM3 및 HBM3E를 공급하는 핵심 파트너로서, AMD의 가속기 생산 물량을 든든하게 받쳐주는 버팀목 역할을 담당한다.삼성전자의 플래그십 모바일 프로세서인 '엑시노스(Exynos)' 시리즈에는 AMD의 자존심인 RDNA 그래픽 아키텍처가 탑재되어 있다. 콘솔 게임기급의 모바일 레이 트레이싱(Ray Tracing) 기술을 스마트폰에 구현하기 위해 양사는 2019년부터 기술 라이선스 계약을 맺고 협력을 지속해 왔다.TSMC에 칩 생산을 전량 의존하고 있는 AMD 입장에서 TSMC의 패키징 라인(CoWoS) 병목 현상은 큰 리스크다. 이에 따라 AMD는 삼성전자의 턴키(Turn-key) 솔루션(메모리+파운드리+2.5D 패키징을 한 번에 제공하는 방식)을 차세대 가속기 생산의 주요 카드로 적극 검토 및 협력하고 있다

실리콘밸리의 역사에서 AMD는 늘 거인들의 발꿈치를 물어뜯으며 자라온 불사조였다.인텔이라는 거대 공룡을 무너뜨렸던 '칩렛 혁명'의 DNA는 이제 엔비디아라는 새로운 거인을 향하고 있다. 리사 수의 영민한 리더십, 3D 패키징 및 초대형 HBM을 탑재한 Instinct 시리즈의 기술력, 엔트로픽을 필두로 한 오픈소스 연대, 그리고 삼성전자와의 견고한 반도체 동맹이 결합하면서 AI 가속기 시장의 지각변동은 이미 시작되었다."AI 시장은 한 기업이 독식하기엔 너무나 광대하다."리사 수 CEO의 이 말처럼, 독점은 기술의 침체를 부르고 경쟁은 혁신을 가속화한다. 엔비디아가 독주하던 AI 반도체 제국에 "게 섰거라"를 외치며 치고 올가가고 있는 AMD의 도전은, 글로벌 반도체 산업을 보다 건강하고 다이내믹한 '다극체제'로 탈바꿈시키는 또 하나의 거대한 동력이 되고 있다.


김대호 글로벌이코노믹 연구소장 tiger8280@g-enews.com