메뉴 글로벌이코노믹 로고 검색
검색버튼

SK하이닉스, 美 슈퍼컴퓨팅 행사서 메모리 중심 AI 랙 시연

'MARS' 통해 CXL 풀드 메모리 기반 KV 캐시·토큰 공유 등 3가지 기술 공개
SK텔레콤과 LLM 추론 환경서 실증…HBM4E·소캠2 등 제품군도 전시
지난 15일부터 20일까지(현지 시각) 미국 시카고에서 열린 '슈퍼컴퓨팅 2026'에서 SK하이닉스가 마련한 부스 전경. 사진=SK하이닉스이미지 확대보기
지난 15일부터 20일까지(현지 시각) 미국 시카고에서 열린 '슈퍼컴퓨팅 2026'에서 SK하이닉스가 마련한 부스 전경. 사진=SK하이닉스
SK하이닉스가 여러 서버가 메모리를 나눠 쓰는 방식으로, 사용자 대신 작업을 수행하는 인공지능(AI) 에이전트 서비스의 처리 효율을 높이는 기술을 공개했다.
SK하이닉스는 지난 15일부터 20일까지(현지 시각) 미국 시카고에서 열린 '슈퍼컴퓨팅 2026'에 참가해 메모리 중심 AI 랙 시스템 'MARS' 등 차세대 메모리 설루션을 선보였다고 20일 밝혔다. 슈퍼컴퓨팅 2026은 고성능컴퓨팅(HPC)과 AI 분야의 최신 기술이 모이는 글로벌 콘퍼런스로, 올해는 1만 명이 전시장을 찾았고 500여 개 기업·기관이 참여했다.

MARS(Memory-centric AI Rack System)는 메모리를 중심으로 파트너사의 설루션을 하나의 랙(서버와 저장장치를 층층이 쌓아 설치하는 표준 프레임)에 통합한 시스템이다. SK하이닉스는 전시장에서 MARS와 관련한 3가지 기술을 시연했다.

우선 컴퓨트 익스프레스 링크(CXL) 메모리와 CXL 하이브리드 메모리를 묶어 서버 여러 대가 'KV 캐시'를 공유하는 풀드 메모리(여러 메모리를 묶어 나눠 쓰는 방식)를 선보였다. CXL은 중앙처리장치(CPU)와 그래픽처리장치(GPU), 메모리를 효율적으로 연결하는 차세대 인터페이스이고, KV 캐시는 AI가 대화 중 앞서 계산한 결과를 저장해 두는 임시 메모리다. 새로 생기는 대용량 KV 캐시는 CXL 하이브리드 메모리 안의 SSD에 저장하고, 다시 쓸 때는 필요한 데이터를 예측해 D램으로 빠르게 불러온다. 회사는 이를 통해 대용량 저장 공간을 확보하면서도 빠른 읽기 성능을 낼 수 있다고 설명했다.
이어 메모리 풀 안에 간단한 연산 기능을 더한 '연산형 풀드 메모리'로 여러 서버와 GPU를 연결한 AI 에이전트 서비스 운영(서빙) 시스템을 시연했다. 회사는 네트워크 통신을 이용하는 기존 방식보다 시스템 성능을 높일 수 있음을 확인했다고 설명했다.

마지막으로 CXL 풀드 메모리로 연결된 CPU 서버들이 토큰(AI가 처리하는 최소 단위)을 공유해 중복 처리를 줄이는 기술을 보여줬다. 텍스트와 이미지 등을 함께 다루는 멀티모달 AI 서비스에서 GPU 대기 시간을 줄여 서비스 성능을 높였다고 회사는 밝혔다.

SK하이닉스는 별도 전시 구역에서 KV 캐시를 CXL 메모리 풀로 내려 보관하는 'KV 캐시 오프로딩 오버 CXL' 기술도 소개했다. 곧 쓸 KV 캐시는 고대역폭메모리(HBM)와 D램에 두고, 나중에 다시 불러낼 KV 캐시는 CXL 메모리 풀에 보관하는 구조다. 회사는 SK텔레콤과 함께 실제 거대언어모델(LLM) 추론 환경에서 이 기술을 실증했다고 밝혔다. 이 밖에 메모리 내부에서 연산을 수행하는 'Compute-using-DRAM', 연산 기능을 갖춘 맞춤형 HBM 여러 개를 연결한 'Custom HBM Array'도 소개했다.

제품 전시 구역에는 HBM4E와 HBM4, HBM3E, 서버용 D램 '256GB 3DS DDR5 RDIMM'과 '192GB 소캠2(SOCAMM2)', 액체냉각(DLC)을 지원하는 기업용 SSD(eSSD) 'PEB210 E1.S' 등이 나왔다. 발표 세션에서는 민영훈 SK하이닉스 AI 시스템 인프라 담당 TL이 MARS 아키텍처를 소개했다.
SK하이닉스 관계자는 "앞으로도 AI 컴퓨팅 성능을 높여갈 핵심 기술 파트너로서 고객과 함께 성장해 나가겠다"고 말했다.


유덕규 글로벌이코노믹 기자 udeok@g-enews.com
맨위로 스크롤