삼성전자, 엔비디아에 소캠2 샘플 공급…차세대 AI 인프라 시장 선점

삼성전자가 인공지능(AI) 데이터센터에 특화된 '저전력 더블데이터레이트(LPDDR)' 기반 서버용 메모리 모듈인 SOCAMM2(소캠2)를 엔비디아에 공급하기 위한 절차를 밟는 데 속도를 내고 있다. 소캠2가 엔비디아의 차세대 AI칩 '베라 루빈'에 탑재되는 것이 확정된 만큼 공급을 확정 지을 경우 삼성전자는 고대역폭메모리(HBM)에 이어 서버용 메모리 분야에서도 시장을 주도할 수 있을 것으로 전망된다. 삼성전자는 반도체표준협의기구(JEDEC)에서 추진 중인 소캠2의 국제 표준화 작업 등을 파트너사들과 주도하는 등 소캠2를 앞세워 차세대 AI인프라 시장 공략을 강화한다는 방침이다.
삼성전자는 18일 공식 홈페이지 테크블로그를 통해 AI 데이터센터에 특화된 LPDDR 기반 서버용 메모리 모듈 소캠2를 개발해 고객사에 샘플을 공급했다고 밝혔다. 업계는 삼성전자가 언급한 고객사가 글로벌 AI시장의 80%를 장악하고 있는 엔비디아일 것으로 추정하고 있다.



삼성전자가 공급한 소캠2는 엔비디아가 독자 표준으로 개발해온 차세대 메모리 모듈로 LPDDR 기반인 만큼 저전력으로 작동한다는 점에서 D램·HBM과 차이점을 보인다. AI 시스템은 열과의 싸움이라고 할 정도로 열 제어가 중요하다. 통상 제품의 빠른 동작 속도를 끌어내기 위해선 고전력을 필요로 하지만 고전력은 발열을 동반한다. 발열로 온도가 상승하면 시스템 과부하나 다운을 초래할 수 있어 속도를 제한할 수밖에 없다. 소캠2는 저전력에서 작동하면서 D램과 HBM 대비 발열 제어에서 확실한 장점을 가지고 있는 것이다.
삼성전자는 "소캠2는 기존 RDIMM 대비 2배 이상의 대역폭과 55% 이상 낮은 전력 소비를 제공해 고부하 AI 작업부하에서도 안정적인 성능을 유지한다"면서 "모듈형 아키텍처가 제공하는 높은 설계 유연성 덕분에 다양한 AI 시스템에 폭넓게 적용될 수 있는 확장성을 확보했다"고 설명했다.

소캠2에는 분리형 모듈 구조가 적용돼 시스템 유지보수와 수명주기 관리 분야에서 HBM이나 LPDDR 대비 쉽다는 점도 장점이다. 그전에는 HBM이나 서버에 LPDDR을 적용하려면 메인보드에 직접 실장하는 온보드 방식을 채택했지만, 소캠2는 보드를 변경하지 않고도 메모리를 쉽게 교체하거나 업그레이드할 수 있다. 운영사 입장에선 시스템 운영 중단 시간을 줄이고 총소유비용(TCO)을 크게 낮출 수 있다.

소캠2가 서버에 메모리를 수직으로 장착하는 기존 방식이 아니라 수평 구조를 채택해 시스템 공간 활용도를 크게 높였다는 점도 큰 이점이다. 수평 구조는 제품의 열을 식혀주는 히트싱크 배치와 공기 흐름 설계를 비롯해 중앙처리장치(CPU)·AI 가속기와의 통합에도 유리하다. 운영사는 공랭·수랭 등 다양한 냉각 방식을 선택할 수 있어 효율적인 시스템 구성이 가능하다.



삼성전자가 소캠2에 집중하는 이유는 소캠2의 시장성 때문이다. 업계에서 예측하고 있는 엔비디아의 소캠2 총 비트 요구량은 약 200억 Gb 이상으로 추산된다. 이는 8GB의 램을 갖춘 아이폰을 1년 동안 2억 대가량 판매한다고 했을 때 필요로 하는 비트 요구량인 128억 Gb를 넘어선다. 최근 삼성전자가 엔비디아가 필요로 하는 소캠2의 절반을 공급할 가능성이 거론되고 있는 점을 감안하면 삼성전자에는 아이폰에 판매되는 1년치 메모리 판매량만큼의 새로운 시장이 창출되는 셈이다.

이에 삼성전자는 소캠2의 표준화 제정 등에도 속도를 내고 있다. 삼성전자는 글로벌 주요 파트너사와 함께 JEDEC 표준 규격 제정을 주도하고 있을 뿐만 아니라 차세대 AI 플랫폼과의 호환성 확보와 생태계 확장을 위한 기술 표준 마련에도 적극 참여하고 있다.

삼성전자는 서버용 메모리 제품군을 한층 강화해 차세대 AI 데이터센터가 요구하는 성능·전력·확장성을 균형 있게 제공하는 솔루션을 지속적으로 선보인다는 계획이다.

​디온 해리스 엔비디아 HPC·AI 인프라 솔루션 총괄(이사)은 "AI 작업부하가 학습 중심에서 복잡한 추론과 피지컬 AI로 확대되는 상황에서 차세대 데이터센터는 성능과 전력 효율을 동시에 만족하는 메모리 솔루션이 필수"라면서 "삼성전자와의 지속적인 기술 협력을 통해 소캠2와 같은 차세대 메모리가 AI 인프라에 요구되는 높은 응답성과 효율을 구현할 수 있도록 최적화 작업을 이어가고 있다"고 말했다.

장용석 글로벌이코노믹 기자 jangys@g-enews.com