英伟达重磅推出圣诞礼物新一代GB300
英伟达的「圣诞礼物」来了!
新一代GB300和B300 GPU将在明年3月GTC大会上正式发布。

这次升级可不是简单的迭代,而是 一次真正的技术突破 。
新GPU在性能上有了质的飞跃:与前代B200相比, 浮点运算性能提升了50% ,显存容量更是 直接飙升至288GB !

性能大幅提升的秘密
新一代GPU采用了 TSMC 4NP工艺 制程,在架构上进行了全新设计。
最令人惊叹的是,它的 TDP功耗达到了1.4KW ,比前代产品增加了整整200W。

在内存方面,GB300采用了 12-Hi HBM3E 内存技术,将单卡显存容量提升到了288GB,同时保持了每GPU 8TB/s的带宽。
LLM推理性能大幅提升
GB300在大语言模型推理方面的表现令人印象深刻:
批处理大小的优化带来了显著提升 :
内存带宽提升带来43%的交互性能提升
更大的内存容量实现了约3倍的成本降低
72GPU内存共享解决了KVCache限制,支持10万+token的推理长度

供应链重组
GB300的发布也带来了供应链的重大变革。英伟达采用了全新的「 SXM Puck 」模块设计,这意味着:
制造不再局限于纬创和FII
电压调节模块(VRM)采购直接面向超算用户
引入了美国初创公司Axiado的HMC替代Aspeed
第二级内存采用LPCAMM模块,主要由美光供应
这次升级还包含了 全新的800G ConnectX-8网络接口卡 ,提供了双倍的带宽扩展能力。
对于亚马逊这样的超算用户来说,这次升级还意味着他们可以 自定义主板、散热等关键部件 ,从而实现更优的总体拥有成本(TCO)。
版权声明:
作者:shadowrocket
链接:https://www.shadowrocket8.top/34.html
来源:Shadowrocket官网
文章版权归作者所有,未经允许请勿转载。


共有 0 条评论