삼성은 '확장' SK하이닉스는 '1.0 먼저'…AI메모리 표준화 시각차

삼성전자와 SK하이닉스가 연산 기능을 갖춘 메모리(PIM) 표준화 범위를 두고 서로 다른 시각을 드러냈다. SK하이닉스는 저전력 D램 LPDDR6에 PIM을 결합한 ‘LPDDR6-PIM’ 1.0 표준의 발표 목표 시점을 올해 4분기로 제시한 반면, 삼성전자는 논의 중인 사양이 보안·다양한 연산·데이터 형식을 담지 못한다며 확장 모듈과 ‘zHBM’ 표준화를 위한 업계 협력을 요청했다.
18일 업계에 따르면 두 회사는 지난 15일 국제반도체표준협의기구(JEDEC)가 서울 코엑스에서 연 포럼에서 메모리 안에서 직접 ‘연산’까지 수행하는 PIM 기술을 소개했다.

두 회사 모두 PIM을 AI 추론의 병목 해법으로 보는 건 같았다. 거대언어모델(LLM)이 답을 한 토큰씩 만들어내는 디코딩 단계에서는 연산기와 메모리 사이 데이터 이동이 성능을 좌우하기 때문이다.

우선 삼성전자는 PIM의 중요성을 자사 LPDDR5X-PIM 시험 결과로 설명했다. 삼성전자는 기기 안에서 AI를 구동하는 자사 엣지 AI 가속기에 라마 3.1(80억 매개변수) 모델을 올려 일반 LPDDR5X와 LPDDR5X-PIM을 비교했다. 그 결과 AI가 답변을 만들어내는 속도(초당 출력 토큰)는 27개에서 102개로 3.8배 빨라졌고, 평균 전력은 8.4W에서 11.5W로 1.4배 늘었다. 속도 향상 폭이 전력 증가 폭보다 훨씬 커 전력당 처리량도 높아졌다는 의미다.
SK하이닉스는 JEDEC에서 논의 중인 LPDDR6-PIM을 표준 LPDDR6의 ‘매끄러운 업그레이드’로 소개했다. 외부 대역폭은 LPDDR6와 같지만 내부 대역폭은 4배, 정적 효율 모드(SEFF)에서는 현 구조 기준 8배까지 늘고, 데이터 이동 부문 에너지도 20~25% 수준으로 줄어든다는 게 SK하이닉스의 설명이다.

두 회사 모두 LPDDR6-PIM 첫 버전이 올해 나온다는 데는 이견이 없고 표준도 정립돼야 한다는데는 이견이 없었다. 다만, 1.0 이후 표준화 범위를 두고는 시각차가 드러났다.

SK하이닉스가 제시한 사양은 AI 계산용 숫자를 소수점 없는 정수 형식(INT4·INT8 등) 위주로 처리했지만 삼성전자는 AI 칩이 소수점이 있는 정밀한 숫자(FP)까지 쓰는 경우가 많아 지금 사양으로는 부족하다고 짚었다.

SK하이닉스는 경제성을 고려해 구조를 단순하게 택했지만, 삼성전자는 LPDDR6-PIM 현 표준이 곱셈 누계(MAC) 연산과 정수(INT) 데이터에 한정되고 보안 규격이 없다고 설명했다. 이에 보안·연산·데이터 선택 기능을 선택형 별도 모듈로 표준화하자고 제안했다.
즉, SK하이닉스가 경제성을 고려해 단순한 구조로 먼저 시장을 열겠다는 쪽이라면, 삼성전자는 확장 기능까지 담아야 한다는 쪽이다.

삼성전자는 GPU 위에 메모리를 쌓는 3D 구조 ‘zHBM’도 표준화 대상에 올렸다. HBM4E 대비 GPU당 성능 최대 8배, 와트당 성능 3배를 낼 수 있지만, 호스트마다 구조가 달라 완전한 표준화는 쉽지 않다고 설명했다.

결과적으로 PIM의 표준화 없이는 시장에서 호환성을 확보하기 어렵다는 점에서 두 회사의 접점 모색이 향후 시장 확대의 변수가 될 것으로 보인다.


박상휘 글로벌이코노믹 기자 shpark03@g-enews.com