Kimi K3模型展现大尺寸推理对GPU互联的刚需,WideEP优化反而拉高网络带宽消耗,Oracle Stargate数据中心因天然气管道许可面临1-2年延迟。

技术进展

Kimi K3线性注意力并非利空英伟达,大模型推理更依赖GPU互联与HBM

1. 月之暗面发布Kimi K3模型,其线性注意力机制(KDA)降低了KV缓存需求,引发对英伟达GPU、HBM和网络需求下滑的担忧。

2. 但SemiAnalysis分析指出,K3拥有超过2.8万亿参数,权重要占用超1.5TB HBM,需多GPU分布式存储;采用的WideEP优化将896个专家分布到多GPU上,反要强化网络带宽,尤其适合NVL72等铜背板高带宽系统。

3. 英伟达的GB200/GB300 NVL72因18倍于DGX B200的带宽而受益,大模型推理成本降低会刺激更多AI采用,最终推高整体GPU和网络需求。

4. 新人须知:模型参数规模越大,越需要大容量HBM和多GPU互联,网络成为瓶颈,这正是英伟达NVLink和机架级系统的优势所在。

[1] [2] [3] [4] [5] [6] [7] [8]

市场与需求

Oracle Stargate项目因天然气管道许可受阻,面临1-2年延迟

1. Oracle位于新墨西哥州的2.45 GWProject Jupiter数据中心项目,由于17英里天然气管道(Green Chile Pipeline)无法获批路由,可能延迟1-2年。

2. 该管道需连接El Paso天然气系统,但起点位于州土地,已被两次拒绝;燃料改用Bloom Energy固体氧化物燃料电池后仍依赖管道气,且空气许可证仍待审批。

3. 备选方案(FERC快速通道、豁免、重新选线、CNG拖车供气)均失败或仅能支撑100-200MW,远无法满足2.45GW规划。

4. 该延迟直接影响AI数据中心部署节奏,波及英伟达GPU和服务器供应链的下游需求落地,也凸显美国数据中心建设的许可与能源基础设施瓶颈。

[9] [10] [11] [12] [13] [14] [15] [16]