SK hynix与SanDisk近日正式发布全新的高带宽闪存(High Bandwidth Flash,HBF)标准,旨在解决当前AI加速器在高带宽内存(HBM)与固态硬盘(SSD)之间存在的巨大性能差距,并打造一个面向企业级生态的全新存储平台。两家公司希望通过这一标准,促使更多厂商开发兼容产品,共同构建新一代AI存储体系。

从定位上看,HBF被设计为介于HBM与企业级SSD之间的中间层方案,兼具一定的带宽表现与更高的容量优势。与HBM类似,HBF同样依靠多颗存储芯片层叠封装,不过采用的是NAND闪存而非DRAM,以此在保持较高访问性能的同时显著提升存储密度。在实际应用中,HBM负责承载大模型推理过程中立即参与计算的参数,而HBF则以更大容量补足整体模型的存储需求,两者形成分层协同而非完全替代关系。

根据SK hynix与SanDisk公布的规格,单个HBF配置最高可提供512GB容量,带宽区间则覆盖0.4TB/s至3TB/s。报道以一个拥有5000亿参数的AI模型为例进行说明:若按照“每GB可容纳10亿参数”来粗略估算,该模型需约500GB存储空间。在成本与功耗均不现实的前提下,企业难以将整个模型全部部署在HBM中,此时便可将大部分参数存放于HBF,同时让关键计算部分常驻HBM,从而在成本与性能之间取得更佳平衡。