被韩媒誉为「HBM 之父」的韩国科学技术院 (KAIST) 教授金正浩 (Kim Jung-ho) 醉心表示，AI 的本质就是记忆体。

他在接受《东亚日报》专访时提出上述颠覆性观点时指出，过去业界过度聚焦模型算法与 GPU 算力，但当大模型实际运行时，注意力机制、上下文缓存 (KV Cache) 与推论生成的每一个环节，都高度依赖记忆体系统的支撑。

金正浩表示，HBM 透过将多层 DRAM 垂直堆叠，大幅拓展资料传输的「车道数」，并生动比喻称「传统记忆像 8 道高速公路，HBM 则是 1024，甚至 2048 车道，未来可能演进至百万车道」。

然而，频宽的提升并未根除瓶颈。大模型在输出瞬间需频繁从 HBM 或未来的 HBF(高频宽闪存) 读写资料，导致 GPU 绝大部分时间处于「等待资料抵达」的闲置状态。

金正浩估计，即便部署百万个 GPU，真正用于计算的时间仅约 10%，即便透过演算法优化，也很难超过 30%。

为解决「资料搬运」的能耗与延迟问题，金正浩预测未来 AI 运算将走向「以记忆体为中心」。

他将理想的 3D 架构比喻为一栋百层大楼：「在一楼安装 GPU，资料只需搭电梯下楼计算，整栋楼解决所有事，省去长途奔波。」从 HBM4 开始，部分 GPU 功能将整合进记忆体结构中。

金正浩还进一步描绘三层异质记忆体指出，速度最快的 HBM(堆叠 DRAM) 扮演百货公司存放热数据，容量巨大的 HBF(堆叠 NAND) 如同公寓楼群存放冷数据，而他提出的 HBS(高频宽 SRAM) 则作为超低延迟的缓存。GPU/CPU 将置于顶层，专注于散热与调度。

金正浩特别点出，辉达执行长黄仁勋近期频繁访韩，正因 GPU 微架构的效能成长已近停滞，且高发热特性使其难以像记忆体般大规模堆叠。

他认为，未来 3D AI 电脑的供电与散热能力将成核心竞争力，决定企业生死。这也意味着拥有 DRAM 与 NAND 双重技术累积的三星与 SK 海力士，有机会在未来架构中占据核心地位。

不过，金正浩也警示，这并非简单的「GPU 时代」切换为「记忆体时代」，而是 GPU、HBM、先进封装、网络互连与散热的系统级竞赛。

面对中国业者积极自研 GPU/NPU 并带动本土记忆体发展的追赶压力，金正浩则对韩国业界直言：「这是一场关系生存的长期竞争，只能努力活到最后。」