계층형 메모리

이 용어를 다룬 분석 — KV 캐시를 1/5로 줄인다는 TurboQuant, 어디까지 믿어야 하나 외 3편 ↓

계층형 메모리(tiered memory) 는 메모리를 하나로 해결하지 않고 층으로 나누는 접근이다. 빠른 층은 좁고 비싸게, 느린 층은 넓고 싸게 두고, 데이터를 필요한 층에 놓는다.

컴퓨터가 캐시–D램–저장장치로 층을 나눈 것은 오래된 이야기다. 지금 이 말이 다시 나오는 이유는 HBM 하나로는 AI 추론의 용량을 못 댄다는 인식이 업계에서 굳어졌기 때문이다.

SK하이닉스가 이 틀로 제품을 다시 배열했다

2026년 8월 7일 뉴스룸 발표문 기준이다. 기조 제목이 그대로 이 개념이다 — "Orchestrating Efficient AI Infrastructure through Tiered Memory in the Era of Agentic AI".

발표문이 든 이유는 한 문장이다. AI 에이전트가 빠르게 상용화되면서 처리할 데이터가 급증하는데, 하나의 메모리 제품만으로는 필요한 처리 속도와 효율을 감당할 수 없다는 것이다.

노리는 것은 성능 자체가 아니라 데이터 이동이다. 층을 나누는 목적은 데이터가 층을 넘나드는 횟수를 줄이는 데 있고, 그것이 인프라 전체의 효율로 돌아온다는 것이 발표문의 논지다.

왜 이 문서가 필요했나

이 위키에는 HBM·HBF·CXL·eSSD 가 각각 있었지만 셋이 서로 어떤 관계인지 적은 자리가 없었다. 따로 읽으면 경쟁 제품처럼 보이는데, 회사가 말하는 그림에서는 서로 다른 층을 맡는 한 벌이다.

특히 HBF가 여기서 제자리를 얻는다 — HBF는 HBM을 대체하려는 물건이 아니라 HBM과 SSD 사이의 빈 층을 메우려는 물건이다.

삼성은 같은 자리에서 다른 축을 들었다

같은 FMS 2026에서 삼성전자는 zHBM 과 3D D램을 내놓았다. 층을 나누는 대신 한 층을 더 빠르게 만드는 쪽이다.

둘은 배타적이지 않다. 노리는 병목이 다르다 — 계층형은 용량과 데이터 이동, zHBM은 대역폭과 전력이다. 다만 어느 쪽이 표준이 될지는 정해진 바 없고, 두 회사가 서로의 접근을 채택한다는 자료도 확인하지 못했다.

확인 못 한 것

• 각 층의 경계를 무엇이 정하나 — 어떤 데이터를 어느 층에 둘지 정하는 소프트웨어·컨트롤러가 발표문에 없다. 층을 나누는 것보다 나눈 뒤에 옮기는 일이 실제로는 더 어렵다
• 원가 — 층이 늘면 부품 수가 는다. 층을 나눈 시스템이 HBM만 쓴 시스템보다 싼지에 대한 값이 없다
• 채택 고객 — 이 구조를 쓰겠다고 밝힌 고객사가 발표문에 없다
• HBF의 규격 진도 — HBF 문서 참조. 1차 규격 공개까지가 지금 확인된 전부다

업체 트랙

이 항목에 각 회사가 언제 들어왔고, 지금 어디까지 왔고, 뭘 하겠다고 공개했는지입니다. 회사가 스스로 낸 자료만 공식으로 싣고, 매체 보도는 따로 표시합니다.

관련 기사

바깥 매체가 쓴 글입니다. 회사 발표가 아니라 더 읽을거리로 둡니다 — 위 업체 트랙의 숫자는 이 기사들이 아니라 회사 공식 자료에서 온 것입니다.

• 2026-08-07 · 이데일리“HBM만으론 부족”…SK하이닉스, HBF·CXL 잇는 ‘계층형 메모리’ 제시
• 2026-08-07 · 와이드데일리SK하이닉스, FMS서 계층형 메모리 전략 제시…HBM·HBF·CXL 총망라
• 2026-08-09 · 디지털데일리삼성·SK 차세대 3D·계층형 메모리 맞대결

이 용어를 다룬 분석

관련 용어

지수 화면에서 이어서 보기