HBM5 대비 전력당 성능 최대 3배…데이터 이동거리 줄여 '메모리 장벽' 해소
온디바이스용 'z낸드-O'·400단 이상 V낸드도 공개…차세대 3D 메모리 승부

삼성전자가 인공지능(A)I 반도체의 성능과 전력 효율 한계를 극복하기 위해 AI 가속기 위에 고대역폭메모리(HBM)를 직접 쌓는 차세대 3차원 메모리 구조를 공개했습니다.

기존처럼 AI 가속기 옆에 HBM을 배치하는 대신 수직으로 적층해 데이터 이동 거리를 줄이고 성능과 전력 효율을 동시에 높이는 방식입니다.

김경륜 삼성전자 D램개발실 상무는 4일 현지시간 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 메모리 행사 'FMS 2026' 기조연설에서 차세대 3차원 아키텍처 'zHBM'을 공개했습니다.

김 상무는 "삼성이 돌아왔다"며 차세대 메모리 기술에 대한 자신감을 내비쳤습니다.

zHBM은 AI 가속기인 xPU 옆에 HBM을 연결하는 기존 구조와 달리 가속기 바로 위에 HBM을 수직으로 적층하는 방식입니다.

기존 가로와 세로의 X·Y축에 높이를 뜻하는 Z축을 추가했다는 의미에서 제품명에 'z'를 붙였습니다.

AI 가속기와 메모리 사이의 물리적인 거리가 짧아지면서 데이터 이동 과정에서 발생하는 병목 현상을 줄이고 대역폭과 전력 효율을 크게 높일 수 있다는 것이 삼성전자의 설명입니다.

삼성전자는 zHBM을 적용하면 차세대 HBM인 HBM5와 비교해 GPU당 성능을 최대 8배 높일 수 있다고 설명했습니다. 전력 대비 성능도 최대 3배 개선됩니다.

발열 제어 성능도 크게 향상됩니다. 열 저항 수치는 HBM5의 10∼25% 수준까지 낮출 수 있어 고성능 AI 반도체의 핵심 과제인 발열 문제를 줄일 수 있습니다.

김 상무는 "기존 패키징 방식으로는 가속기와 메모리 사이의 물리적 거리를 줄이는 데 한계가 있다"며 이른바 '메모리 장벽'을 해결하기 위해 구조 자체의 변화가 필요하다고 강조했습니다.

현재 개발 중인 HBM5 기술도 소개했습니다.

삼성전자는 HBM5에 HBM 제품으로는 처음 게이트올어라운드, GAA 트랜지스터를 적용하고 파운드리 2나노미터 초미세 공정을 도입했습니다.

코어 다이 측면에는 열을 외부로 방출하는 구조를 적용해 발열 제어 성능을 이전 세대보다 20% 이상 높였습니다.

삼성전자는 온디바이스 AI 시장을 겨냥한 차세대 낸드 솔루션도 공개했습니다.

이진엽 삼성전자 플래시개발실 부사장은 기조연설에서 온디바이스 AI에 최적화한 'z낸드-O'를 선보였습니다.

z낸드-O는 D램의 제한적인 용량과 기존 낸드의 낮은 대역폭 문제를 동시에 보완해 대용량과 높은 대역폭, 빠른 응답속도를 구현하는 기술입니다.

삼성전자가 매개변수 1천200억 개 규모의 GPT 모델을 시험 구동한 결과 z낸드-O는 기존 D램 서버와 같은 수준의 초당 토큰 처리량을 기록하면서 비용은 6분의 1 수준에 그쳤습니다.

이 부사장은 행사에서 초소형 기업용 SSD 'BM1773' 실물을 공개하며 "믿기 힘들겠지만, 이 작은 스토리지 칩 하나의 가격이 최고급 세단 한 대와 맞먹는다"고 소개하기도 했습니다.

삼성전자는 이와 함께 400단 이상을 수직으로 쌓은 10세대 V낸드인 'V10 BV-낸드'도 업계 최초로 공개했습니다.

삼성전자는 zHBM과 z낸드-O, 400단 이상 V낸드 등 차세대 3D 메모리 기술을 앞세워 고성능 컴퓨팅과 AI 인프라 시장의 급증하는 데이터 처리 수요에 대응할 계획입니다.