闪迪公司HBF技术革新:单GPU存储容量达4TB,重塑AI推理存储生态
在人工智能技术飞速发展的今天,数据存储的需求也在持续增加。尤其是处理大型语言模型(LLM)时,存储的带宽和容量尤其关键。闪迪公司在刚刚揭晓的高带宽闪存(HBF)技术中,为这一需求提供了一个令人振奋的解决方案——HBF的单GPU存储容量跃升至4TB,这将从根本上重塑AI推理的存储生态。
闪迪公司即将在今年一季度完成从母公司西部数据的拆分,正式走上独立上市的新征程。在此次面向投资者的活动中,闪迪不仅展示了其最新的HBF技术,还分享了技术背后的设计理念。HBF受到了高带宽内存(HBM)设计的启发,采用了大量I/O引脚和多层堆叠结构,实现了出色的带宽表现。HBF的转变是将存储介质由DRAM变为NAND,同时对协议进行了相应调整,尽管在某些方面与HBM并不完全兼容,但其性能仍然异常强大。
HBF的内部结构设计巧妙,多层核心裸晶通过微凸块和硅通孔技术紧密堆叠,使得底部能够与计算芯片高效通信。闪迪公司表示,HBF技术目前最高已实现16层堆叠,每个堆栈容量达到512GB。这意味着,在2.5D集成下,单个AIGPU具备(即4TB)的存储,远超传统HBM方案的20倍容量。这项创新技术能够支持参数约1.8TB的前沿大型语言模型,显著提升AI推理的速度与效率。
除了在AI推理GPU领域的卓越表现外,HBF技术在边缘AI领域同样充满潜力。单颗HBF存储器能够容纳完整的64B模型,这一特性无疑将促进边缘AI应用的发展与普及。闪迪的HBF技术并非孤立运作,它得到了众多主要AI企业的支持,未来将构建HBF开放标准生态系统,以实现更广泛的系统集成和应用。
展望未来,闪迪已经为HBF技术规划了明确的发展路径。公司致力于在第三代产品中实现容量提升和带宽增强,同时降低功耗,以继续引领存储技术的革新。闪迪的这一创新不仅将影响AI推理领域,甚至可能在边缘计算、物联网等其他领域带来更多机遇。
总的来说,HBF技术的推出无疑会引发AI存储领域的一场革命。随着AI应用的日益普及,对存储技术的要求也在不断提升。闪迪通过HBF技术所带来的显著容量和性能的提升,将极大地推动AI技术更深层次的应用创新,助力各行各业实现智慧化转型。在这一变革的浪潮中,HBF将成为AI存储解决方案的核心驱动力,让未来的AI应用无往不利。
解放周末!用AI写周报又被老板夸了!点击这里,一键生成周报总结,无脑直接抄 → →