MRDIMM 8800MT/s를 AI 작업 성능으로 읽으면 안 되는 이유

서버 D램 이야기에서 MRDIMM이 자주 나옵니다. 그런데 "8800MT/s"라는 숫자 하나로 AI 서버 성능이나 메모리 회사 매출을 읽으면 세 단계를 건너뛰게 됩니다. 2024년 Micron 발표를 다시 읽는 개념 정리입니다.

회사가 밝힌 것

Micron은 2024년 7월 16일 MRDIMM이 Intel Xeon 6와 호환된다고 발표하면서, 실효 메모리 대역폭이 최대 39% 증가한다고 제시했습니다. 각주의 비교 조건은 128GB MRDIMM 8800MT/s 대 128GB RDIMM 6400MT/s, Intel MLC 도구로 잰 실험입니다.

세 가지 다른 숫자

1. 전송률: 8800 ÷ 6400 = 1.375, 즉 37.5% 높습니다. 인터페이스 규격의 숫자입니다.
2. 실효 대역폭: 회사 실험에서 최대 39% 개선. 측정 도구가 낸 값이고, "최대"입니다.
3. 작업 성능: 실제 AI·데이터베이스 작업이 얼마나 빨리 끝나는지. 이 발표로는 알 수 없습니다.

세 숫자는 측정 대상이 다릅니다. 1과 2가 비슷하다고 해서 3도 비슷하게 오른다고 볼 근거는 없습니다. CPU 메모리 대역폭이 병목인 작업에서만 의미 있는 개선이 나옵니다.

메모리 투자 관점에서

MRDIMM은 이 발표에서 CPU의 주 메모리로 다뤄집니다. HBM을 대체한다는 이야기가 아니고, GPU 쪽 AI 작업 속도를 말하는 것도 아닙니다. 회사는 자기 제품을 홍보하는 당사자이고, 실험은 독립 재현이 아닙니다.

동일 작업·용량·CPU에서 처리 시간이나 성공 1건당 총비용이 개선되지 않으면 도입 판단은 낮아집니다.

다음에 볼 숫자

같은 CPU·용량에서의 처리 시간, 실효 대역폭, 전력, 모듈 가격, 성공 1건당 총비용. 그리고 메모리 회사 실적에서는 서버 D램 안에서 MRDIMM 출하 비중이 따로 공개되는지입니다.

출처: Micron 보도자료 — MRDIMM (2024-07-16)