"비싼 D램 덜 꽂아도 된다"…AMD 선언에 서버 시장이 긴장한 까닭은?

AMD가 플래시 메모리와 인공지능 예측 기술을 결합해 서버 D램 요구량을 최대 75% 줄이는 멕스트(MEXT) 예측 메모리 소프트웨어를 공개했다.
기술 전문지 Wccftech는 11월 11일(현지시각) 대만 상보 보도를 인용해 해당 솔루션이 에픽(EPYC) 서버의 과다 할당 비효율을 덜어낸다고 보도했다.

서버 전체 구축 원가에서 D램 구매비가 최대 75%를 차지하는 환경에서 한국 반도체 기업의 서버 메모리 포트폴리오 대응에도 시선이 쏠린다.

데이터센터 서버 환경에서 물리 메모리의 과다 배치는 상시적인 비용 부담 요인으로 꼽혀 왔다. 가상 머신 구동 시 일어나는 급격한 처리 속도 저하를 막기 위해 기업들이 실제 작업량보다 많은 메모리를 미리 사두는 까닭이다.

게리 스머든 AMD 사업개발 부사장은 대만 상보와의 대담에서 기업들이 성능 저하를 방어하려 메모리를 필요 이상 확보하는 낭비를 겪고 있다고 설명했다. 실제 가상 머신 인스턴스에 배정된 D램 가운데 최대 50%는 실제 연산 처리에 쓰이지 않는다.

인스턴스 내부에 묶여 활용되지 못하는 메모리 비율도 25%에 이른다. 전체 D램 용량의 50%에서 80%가 비활성 상태인 콜드 데이터로 머무르는 셈이다.

멕스트는 인공지능 엔진을 가동해 작동하지 않는 유휴 데이터를 낸드 플래시 계층으로 옮긴다. 이후 연산 애플리케이션이 데이터를 호출하기 직전 D램으로 복귀시켜 전송 지연을 줄인다. 물리 D램을 추가 증설하는 방식과 견줘 적은 비용으로 가용 메모리 공간을 3배 넓힐 수 있다는 분석이 나온다.

서버 구축비에서 D램이 차지하는 비중이 최대 75%에 달하는 상황에서 구체적인 절감 수치도 공개됐다. AMD는 자체 정보기술 인프라 내 145대 서버에 멕스트를 먼저 배치해 약 490만 달러(약 65억 8560만 원)의 D램 구매 비용을 아꼈다.

D램만으로 용량을 늘리던 기존 방식과 비교하면 메모리 확장 비용을 83% 낮춘 수치다. AMD는 2027년까지 적용 범위를 2000대 서버로 넓힌다.

인공지능 에이전트 다중 구동 환경에서도 개선 효과가 나타났다. D램과 플래시를 절반씩 혼합 배치했을 때 5개 에이전트 동시 구동 기준 달러당 성능이 90% 개선되고, 메모리 집약 작업에서는 70% 향상된다고 AMD는 밝혔다. 휴렛팩커드엔터프라이즈와 협력해 고용량 엔브이엠이(NVMe) 확장 슬롯을 갖춘 'MEXT 레디' 완제품 서버 공급망도 구성했다.

엔비디아도 유사한 플래시 계층화 기술을 구축했다. 인공지능 추론 가속 환경에서 고대역폭 메모리(HBM) 병목을 완화하려는 시엠엑스(CMX) 플랫폼이다.
생성형 인공지능 문맥 길이가 길어지며 연산 결과를 임시 보관하는 케이브이(KV) 캐시가 급증하자 플래시를 활용하는 방식이다. 블루필드-4 데이터처시장치(DPU)와 스펙트럼-X 이더넷을 통해 루빈 그래픽처리장치(GPU) 클러스터에 연결된 티엘시(TLC) 낸드를 쓴다.


일반 가상화 서버를 중심으로 소프트웨어 기반 풀링이 확산될 경우 삼성전자와 SK하이닉스가 공급하는 범용 DDR5 고용량 모듈 구매 우선순위가 일부 조정될 수 있다는 관측이 나온다.

대형 클라우드 기업들이 무조건적인 물리 D램 증설 대신 유휴 자원 효율화에 나설 가능성이 열렸기 때문이다.

반면 플래시 계층화가 정착되면 기업용 고성능 낸드 플래시와 컴퓨트 익스프레스 링크(CXL) 기반 메모리 풀링 장치 수요는 확장 궤도에 오른다. 낸드로 내려앉은 유휴 데이터를 지연 없이 퍼올리기 위해 고내구성 피씨아이이(PCIe) 5.0 솔리드스테이트드라이브(SSD) 탑재가 뒷받침돼야 한다.

기술적 제약 요인도 뚜렷하다. 낸드 플래시의 반복 쓰기 수명 저하로 교체 주기가 빨라지거나, 인공지능 예측 오차로 데이터 호출 지연이 늘어나면 시스템 효율이 급격히 떨어진다.

2027년으로 예고된 대규모 서버 실증과 클라우드 서비스 기업의 실제 도입 규모에 따라 메모리 공급망의 제품군 비중 재편 속도가 결정될 것으로 보인다.


김주원 글로벌이코노믹 기자 park@g-enews.com