이미지 확대보기22일 엔비디아가 공개한 실적 보고서에 따르면 엔비디아는 AI 모델 훈련을 위한 컴퓨팅 성능 수요로 1분기 데이터센터 부문에서 약 226억 달러(약 30조 원)에 달하는 매출을 기록했다. 이는 전년 동기 대비 무려 427%나 급증한 수치이며, 지난해 같은 부문 전체 매출액인 475억 달러의 거의 절반에 달하는 규모다.
시장 점유율 역시 견고한 것으로 나타났다. 시장조사기관 IoT 애널리스틱에 따르면, 엔비디아는 현재 데이터센터용 GPU와 AI 가속기 시장의 90% 이상을 장악하고 있다. 2위인 AMD가 고작 3% 수준에 불과한 것을 고려하면 압도적인 격차다.
AMD는 엔비디아의 기존 주력 제품인 ‘H100’ 칩에 버금가는 ‘인스팅트 Mi300’ 시리즈 칩을 마이크로소프트와 오픈Ai, 메타 등에 대량으로 공급하는 데 성공했고, 인텔도 가격 대비 성능이 우수한 ‘가우디2’를 앞세워 틈새시장을 노렸었다.
하지만 엔비디아는 성능 효율을 대폭 향상한 차세대 ‘블랙웰’ 시리즈를 공개하고 하반기 출시를 공언하며 더욱 치고 나가고 있다. 약 2년 단위였던 신제품 개발 및 출시 주기도 1년으로 대폭 단축하면서 경쟁사들과의 격차를 더욱 벌리겠다는 의지도 드러냈다.
이에 AMD와 인텔 등 경쟁사들은 무리하게 엔비디아와 정면 대결을 하는 것보다는, AI 관련 시장에서 엔비디아의 입김이 상대적으로 약한 부분을 파고드는 쪽으로 일부 전략을 수정한 것으로 보인다.
대표적인 것이 AI PC 분야다. 마이크로소프트(MS)가 최근 차세대 AI PC 플랫폼 ‘코파일럿 플러스 PC(Copilot+ PC)’를 공개한 것과 관련해, 인텔과 AMD는 일찌감치 AI PC의 핵심인 NPU(신경망 처리 장치) 내장 CPU를 잇달아 선보이고 시장 선점에 나섰다. 향후 PC 교체 수요가 늘어날 것으로 예상되면서 자연스레 AI PC에 대한 수요도 증가할 것이라는 기대감이 커지고 있기 때문이다.
또 하나로는 엔비디아가 강점을 보이는 AI의 ‘훈련 및 학습’ 부문이 아닌, 새롭게 떠오르는 ‘추론’ 분야가 꼽힌다.
‘훈련 및 학습’이 AI 구현에 필수인 ‘AI 모델’을 만드는 과정이라면, ‘추론’은 만들어진 AI 모델을 활용해 챗봇이나 이미지·영상 생성, 검색 등 실질적으로 AI 기반 서비스를 구현 및 제공하는 분야다. 이러한 추론 과정에는 복합 병렬 연산 성능이 강력한 GPU 기반 AI 칩보다 사람의 신경 구조와 유사하게 작동하는 NPU가 더욱 빠르고 효율적이다.
특히 엔비디아가 독점한 AI 훈련 및 학습 부문과 달리, 추론 부문은 MS와 아마존, 구글, 메타, 퀄컴 등 다른 쟁쟁한 빅테크 기업들이 자체개발한 AI 칩을 통해 이제 막 경쟁을 시작한 참이다. 아직 뚜렷한 선두 주자가 없는 만큼 인텔과 AMD 등 AI 반도체 후발주자들도 누가 더 효율적인 추론용 AI 반도체를 선보이냐에 따라 충분히 해볼 만하다는 계산이 나온다.
물론, 엔비디아 역시 AI PC 및 추론 시장의 가능성을 보고 관련 제품을 준비 중인 것으로 알려졌다. 따라서 향후 AI 시장의 경쟁은 이미 엔비디아가 ‘넘을 수 없는 벽’ 수준으로 커져 버린 훈련 및 학습 부문이 아닌, 새로운 AI 시장으로 떠오르고 있는 추론 분야에서 더욱 치열하게 펼쳐질 전망이다.
최용석 글로벌이코노믹 기자 rpch@g-enews.com
