[실리콘 디코드] 구글, 앤트로픽에 TPU 100만개 공급…'엔비디아 독주'에 제동

엔비디아가 거의 독점하고 있는 인공지능(AI) 반도체 시장에 지각변동이 예고되고 있다. 10여 년 전 구글이 AI 연산 전용으로 개발한 '텐서 처리 장치(TPU)'가 마침내 자사 울타리를 넘어 유력한 대안으로 급부상하고 있기 때문이다.
블룸버그통신, CNBC 등 주요 매체에 따르면 23일(현지시각) 발표된 AI 스타트업 앤트로픽과 구글 간의 초대형 계약이 구글 TPUs(텐서 프로세싱 유닛)가 본격 부상하는 결정적인 계기가 되었다.

AI 스타트업 앤트로픽 PBC는 23일 알파벳의 구글로부터 1기가와트(GW)가 넘는 추가 컴퓨팅 파워를 공급받는 다년간의 클라우드·반도체 계약을 체결했다고 발표했다. 계약 규모는 수백억 달러에 이르며, 앤트로픽은 이를 통해 최대 100만 개의 구글 TPU에 접근하게 되었다. 업계 전문가들은 1GW 이상의 연산 능력 확보를 건설비 포함 약 500억 달러 규모 인프라 투자에 해당한다고 평가한다. 이는 구글 클라우드 서비스 이용 확대로도 이어진다.

앤트로픽은 이미 구글 클라우드를 일부 사용 중이었으나, 이번 계약으로 '클로드(Claude)' 대형 언어 모델 전용 학습 및 추론 인프라를 구글 TPU 위에 대거 구축한다. 앤트로픽의 크리슈나 라오 최고재무책임자(CFO)는 "TPU의 가격 대비 성능 및 효율성 덕분에 구글과 협력을 확장했다"고 밝혔다.
그동안 AI 업계 경쟁사들은 폭증하는 수요를 감당하기 위해 엔비디아의 가속기 칩에만 의존하지 않는 컴퓨팅 성능 향상 방안을 절박하게 모색해왔다. 엔비디아의 고가 정책과 만성적인 공급 부족에서 벗어나기 위한 포석이다. 앤트로픽 역시 기존 TPU 고객이었으나, 이번 대규모 추가 배치 계약은 구글 기술력에 대한 가장 강력한 '신임 투표'다. 이는 오랫동안 아마존닷컴과 마이크로소프트에 밀렸던 구글 클라우드 사업에도 큰 호재다.

TPU에 대한 관심이 급증하면서 다른 AI 스타트업과 신규 고객들의 시선도 자연스럽게 구글 클라우드로 향할 전망이다. 구글 클라우드는 이번 협력으로 클라우드 시장 점유율에서 아마존 웹 서비스(AWS), 마이크로소프트 애저와의 격차를 좁혀가고 있다. 구글로서는 수년간 칩에 쏟아부은 투자를 회수할 기회다. 시포트의 제이 골드버그 애널리스트는 "구글과 앤트로픽의 계약은 TPU에 대한 정말 강력한 검증"이라며, "앤트로픽 계약은 TPU가 엔비디아의 독점 구조를 흔드는 강력한 신호"라고 평가했다.

시장을 장악한 엔비디아의 그래픽 처리 장치(GPU)는 본래 게임 등 시각 효과의 그래픽 렌더링 속도를 높이기 위해 개발됐으나, 대규모 데이터 병렬 처리가 가능해 AI 모델 훈련에 적합한 것으로 밝혀졌다. 반면 TPU는 특정 목적을 위해 설계한 '주문형 반도체(ASIC)'의 일종으로, 태생부터 AI 연산에 특화했다.

구글은 2013년 첫 TPU 개발에 착수해 2년 뒤 출시했다. 초기에는 자사 웹 검색 엔진의 속도 향상과 효율성 증대에 쓰였다. 2018년부터는 클라우드 플랫폼에 TPU를 탑재, 고객들에게도 개방했다. 이후 '제미나이'와 같은 자체 AI 모델 개발에 핵심 가속기로 활용했다. 구글 딥마인드 같은 최첨단 AI 팀이 칩 설계팀과 교훈을 공유하고, 칩을 맞춤 설계하는 역량이 다시 AI 팀에 기여하는 선순환 구조를 구축했다.
구글 클라우드의 마크 로마이어 AI 및 컴퓨팅 인프라 부사장 겸 총괄은 지난 9월 콘퍼런스 연설에서 "우리가 10여 년 전 처음 TPU 기반 시스템을 구축했을 때는 내부적으로 겪고 있던 일부 확장성 문제를 해결하기 위한 것이었다"고 말했다. 그는 "그 후 그 컴퓨팅 파워를 구글 딥마인드 및 다른 연구원들의 손에 쥐여주자, 그것이 여러 면에서 오늘날 모델의 기반이 된 선구적인 구글 제안 AI 아키텍처인 트랜스포머의 발명을 직접적으로 가능하게 했다"고 밝혔다.


구글은 2025년 4월 7세대 TPU '아이언우드(Ironwood)'를 발표하며 상용 성능과 효율을 대폭 강화했다. 아이언우드는 칩 하나에 4,614 테라플롭스(TFLOPS)에 이르는 피크 성능과 192GB의 HBM3E 메모리(7.3TB/s 대역폭)를 갖췄다. 특히 이전 세대 대비 5.6배 향상된 에너지 효율을 자랑하며, 최대 9,216개 칩으로 구성 가능한 슈퍼클러스터(42.5 엑사플롭스, 약 10MW 소모)로 확장할 수 있다. 이 칩은 AI 추론(inference) 중심으로 설계해 LLM, 모형 기반 추론(reasoning) 작업에 최적화했다. 브로드컴의 3nm 공정으로 제조하며 구글 클라우드의 AI 하이퍼컴퓨터 인프라의 핵심 구성요소다.

엔비디아 칩은 여전히 AI 시장의 '황금 표준'이다. 오랜 역사와 강력한 성능, 완벽한 소프트웨어 생태계, 그리고 범용성까지 갖췄다. 그러나 수요 폭증으로 가격이 천정부지로 치솟았고 만성적인 공급 부족에 시달리는 것이 현실이다. TPU는 GPU 대비 범용성은 낮지만, AI 학습 및 추론 작업에서는 더 뛰어난 효율과 맞춤 설계 이점을 지닌다. 엔비디아 주식에 대해 이례적으로 '매도' 의견을 낸 시포트의 골드버그 애널리스트는 TPU가 AI 워크로드 전용으로 맞춤 설계해 종종 더 나은 성능을 낼 수 있다고 지적했다. 그는 구글이 AI에 특화되지 않은 "칩의 다른 많은 부분을 걷어낼 수 있다"고 설명했다. 현재 7세대 제품에 이른 TPU는 성능을 개선하고 전력은 강화했으며, 에너지 효율이 높아져 운영 비용도 절감했다.
현재 TPU는 앤트로픽 외에도 지난해 오픈AI 공동창업자 일리야 수츠케버가 설립한 스타트업 '세이프 슈퍼인텔리전스'를 비롯해 세일즈포스, 미드저니 등이 고객사로 있다.

지금은 구글 클라우드를 통해서만 TPU를 임대할 수 있지만, 이마저도 곧 바뀔 수 있다. 블룸버그 인텔리전스(BI)의 맨딥 싱과 로버트 비거 애널리스트는 "구글과 앤트로픽의 잠재적 거래는 TPU가 구글 클라우드를 넘어 다른 '네오 클라우드'(AI용 컴퓨팅 파워를 제공하는 소규모 기업)로까지 상용화가 확대될 수 있음을 시사한다"는 분석을 내놨다.

물론 구글을 포함한 어느 누구도 당장 엔비디아 GPU를 완전히 대체하려는 것은 아니다. AI 개발 속도를 감안할 때 이는 현실적으로 불가능하다. 가트너의 가우라브 굽타 애널리스트에 따르면, 구글 역시 자체 칩을 보유하고도 여전히 엔비디아의 최대 고객 중 하나다. 고객의 알고리즘이나 모델이 변경될 때 더 넓은 범위의 워크로드를 처리하는 데는 범용 GPU가 더 유리하기 때문이다.

키뱅크의 저스틴 패터슨 애널리스트 역시 "텐서 처리 장치가 범용 GPU에 비해 다용도성이 낮다"고 동의하면서도, 앤트로픽 계약이 구글 클라우드의 점유율 상승과 TPU의 "전략상 중요성"을 동시에 입증했다고 평가했다.


과거 구글 TPU 개발을 이끌었던 베테랑 엔지니어들이 이제 AI 업계 전반으로 퍼져나가 TPU의 영향력을 확대하고 있다. (TPU 초기 설계를 주도했던) 추론 칩 스타트업 '그로크'는 창립자 조너선 로스가 이끌고 있다. 챗GPT 개발사 오픈AI의 리처드 호와 사핀 후다 역시 각각 하드웨어 개발 부문 이사로 이동하는 등 구글 TPU 출신이다. 이로써 구글의 TPU 기술은 단순한 사내 자산을 넘어 AI 업계 전반에 '생태계에 미치는 영향력'을 확장하고 있다.

이들은 TPU를 AI의 핵심 '일꾼'으로 확산시키며 구글의 영향력을 업계 전반에 퍼뜨리고 있다. 구글 클라우드의 로마이어 부사장은 지난 9월 "이 정도 수준의 경험을 대체할 수 있는 것은 정말 없다"고 강조하며, 10년간 축적된 기술력에 강한 자신감을 내비쳤다. 이번 앤트로픽-구글 협력은 TPU가 GPU 독점을 완전히 대체하지는 않더라도, AI 연산 시장에서 '두 번째 축'으로 자리 잡는 전환점을 의미한다. 아이언우드 세대의 성능 향상, 브로드컴과의 반도체 파트너십, 그리고 AI 스타트업의 신뢰 확보를 통해 구글은 앞으로 AI 인프라 시장의 전략상 균형자로 부상할 가능성이 매우 크다.


박정한 글로벌이코노믹 기자 park@g-enews.com