1.发生了什么:UC Berkeley与FuriosaAI发表论文,提出用高带宽闪存HBF补充大模型推理中的高吞吐需求。
2.属于产业链哪个环节:偏存储芯片架构与AI推理系统设计,映射到存储芯片的3D堆叠与封装及系统级存储带宽优化。
3.可能影响的公司或赛道:影响HBM/DRAM供应商如美光、SK海力士、三星,以及AI芯片/服务器设计公司,可能改变存储组合方案。
4.为什么值得关注:大模型推理常受显存带宽限制,HBF用相对低成本的NAND类资源换带宽,是AI推理降本思路之一,目前仍处学术研究阶段。
[1]