HBM之父金正浩：AI本质是内存，GPU真正利用率仅10%-30%

IT之家 7 月 6 日消息，之正浩U真正利韩国科学技术院（KAIST）电气工程系教授、父金被誉为“HBM 之父”的本质金正浩近日接受《东亚日报》专访时指出，人工智能（AI）的内存核心竞争力正经历从 GPU 向内存的范式转移。

金正浩强调，用率AI 的之正浩U真正利本质在于内存而非计算单元。他分析称，父金GPU 在 AI 推理阶段的本质实际利用率远低于理论峰值。由于 AI 每次输出均需经历“从 HBM 读取数据 -> GPU 计算 -> 结果写回内存”的内存完整循环，即便部署百万级 GPU集群，用率真正用于有效计算的之正浩U真正利时间占比仅为 10%-30%。

从训练时代到推理时代：内存成为关键

过去，父金AI 发展重心集中在模型训练阶段，本质GPU 算力是内存决定性能的核心要素。然而，用率随着 AI 全面进入推理时代，性能瓶颈已发生转移。金正浩认为，决定未来 AI 性能的关键指标变为“单次处理数据量”及“数据处理速度”，这意味着内存带宽与容量将直接制约 AI 的表现。

技术演进：HBF 与 HBS 的未来崛起

尽管 HBM（高带宽内存）已针对 AI 进行了专门优化，但随着 AI 向多模态化和 Agentic AI（代理式人工智能）演进，系统对视频、文档及长期记忆等海量冷数据的存储需求激增。对此，金正浩提出以下技术预测：

1. HBF（High Bandwidth Flash）将成为主流：通过将 NAND 闪存进行堆叠处理，HBF 技术有望解决海量数据存储问题。金正浩预测，10 年后 HBF 的市场需求将超越 HBM。
2. HBS（High Bandwidth SRAM）定义未来：在更长远的时间维度，采用读写速度比 DRAM 快 1000 倍的 SRAM 技术将成为主流。其构想包括在整片 12 英寸晶圆上铺设 SRAM，将容量提升至约 1600GB，从而实现大容量与高速处理的统一。

终极形态：AI 计算机的“三维建筑”

金正浩描绘了未来 AI 计算机的架构蓝图——一个庞大的“三维建筑”：

• HBM：充当“商场”，负责高频数据交互；
• HBF 层：相当于“住宅区”，提供大容量存储；
• HBS：承担“高速缓存”功能，提供极致速度。

这些不同形态的存储技术将组合形成约 100 层规模的 3D 复合架构，源源不断地为 GPU 供给数据，彻底打破传统算力瓶颈。

IT之家注：金正浩教授长期深耕高带宽内存（HBM）及 2.5D/3D 集成封装领域。自 2010 年起，他与 SK 海力士合作研发 HBM1，并于去年参与了 HBM4 至 HBM8 的长期发展路线图规划。

(责任编辑：休闲)