英伟达GB200刚交付，GB300又来了！
可鉴智库 2024年12月24日 14:06



据台媒《经济日报》报道，英伟达预计于明年 3 月的 GTC 大会上推出下一代 GB300 AI 服务器产品线。 近期，鸿海与广达已率先行动，进入到 GB300 的研发设计阶段，以便提前抢占商机。 据了解，英伟达已初步确定了 GB300 订单的配置情况，鸿海依然是其最大的供应商，预计明年上半年 GB300 实机将面市，其进度将领先全球同行。 业界人士透露，广达、英业达也是英伟达GB300 AI服务器重要伙伴，订单份额上，广达仅次于鸿海，为第二大供应商，英业达夺单比重则较GB200显著拉升，将共同大啖下世代GB300订单商机。

一、GPU：B200→B300

今年10月份，英伟达将所有Blackwell Ultra产品重新命名为B300系列，这些系列采用的是CoWoS-L技术，这将提升对先进封装解决方案的需求。更名前B200 Ultra 更名后B300，更名前GB200 Ultra 更名后GB300，更名前B200A Ultra 更名后B300A，更名前GB200A Ultra 更名后GB300A。

1. B300计算性能狂飙1.5倍
新一代 B300 GPU，浮点计算性能（FP4）比上代 B200 提升了 1.5 倍！

要知道，在大模型训练里，计算力就是硬通货。

2. TDP热功耗：1000W→1400W

B300 GPU 每块卡的功耗能飙到 1400W… 相比之前大约 1000W 的 B200，再次上了一个惊人的台阶。

为了稳住这股“洪荒之力”，从供电到散热都得跟得上才行。

二、升级的液冷系统

1. 液冷板+增强 UQD快换接头

1400W 的功耗让风冷抖三抖。于是GB300果断祭出液冷板，顺便把UQD快换接头也升级成增强版，效率和可靠性一起拉满。

再也不用担心高温烤服务器，比空调房还凉快呢！

NVIDIA DGX GB200 NVL72 计算节点液冷部分

2. 全新机柜设计

机柜布局、管路设计、散热通道统统重新做了一遍，增加水冷板、液冷系统及 UQD 快接元件数量。

需要加入中国AI服务器液冷之导热/散热交流群的朋友，可长按二维码添加群主微信，并备注：公司+主营+姓名（未备注，恕不通过）

三、HBM3e 显存大提升

1. 192 GB →288 GB

还记得 GB200 时代的 192 GB HBM3 显存吗？

现在每块 B300 GPU竟然有 288 GB 的 HBM3e！这是什么概念？

简直是在给你的模型训练贴上“可劲儿造”的标签，对那些动不动就几百亿参数的大模型来说，简直不要太香。

2. 堆栈8层→12层

相比之前的 8 层，这次直接用了 12 层堆栈——不仅容量飙升，带宽也强到“有点无情”。高并行能力让你的数据不用苦苦排队，就像高速公路变8车道，堵车？不存在的。

四、网络与传输

1. 网卡：ConnectX 7→ConnectX 8

GB300干脆把 ConnectX 7 网卡扔掉，换上了 ConnectX 8。

带宽、延迟、可靠性全面升级，一步到位。

在超大规模集群里，数据跑路的速度再也不愁了。

2. 光模块：800G→1.6T

从 800G 升到 1.6T，简直像把二速变四速。

对于 HPC、AI 训练那种动不动就海量数据交互的场景，这种带宽提升就是“保命”神器。

五、电源管理与可靠性

1. 新增：标准化电容托盘 & BBU

GB300 NVL72 机柜有了标准化的电容托盘，还能选配 BBU（电池备份单元） 系统。

单个 BBU 模块成本约 300 美元，整个 GB300 系统需要5个 BBU模块，大 约 1500 美元

别看这花钱好像不少，但在高负载、高功耗的AI时代，这波操作能让你远离突然“断电而亡”的噩梦。

2. 超级电容器需求巨大

每个 NVL72 机架要用 300+ 个超级电容器，专门用来扛瞬时电流冲击和系统保护。

单价 20-25 美元，算下来也是一笔不小的开销。

也可以理解，谁让GB300是个“贪吃电力”的庞然大物呢？

六、内存大变革

1. LPCAMM蹦上服务器的舞台

这次在计算板上，NVIDIA首次把 LPCAMM（Low Power CAMM） 标准给搬进了服务器！

原本这个“小家伙”更多在轻薄笔记本上露脸，现在却开始扛起服务器的高负载大旗，可见它确实不一般。

LPCAMM也来服务器凑热闹了？这是要让服务器也‘轻薄’起来吗？看来以后服务器也要开始走‘时尚路线’了。

2. 要取代传统 DIMM？

LPCAMM能更紧凑、更省电，还更好维护。

未来可能会彻底替换传统 RDIMM、LRDIMM——可想而知，这将是服务器内存市场的一场“大地震”。

如果LPCAMM真的取代了传统DIMM，那服务器内存市场可就真的要‘变天’了。

NVIDIA GB300 “Blackwell Ultra” 这一波猛料，绝对又要把AI算力的天花板顶高一大截。无论是GPU核心的强化、海量HBM3e显存的加持，还是炫酷散热、电源管理的全面升级，都昭示着：大模型+超大规模 计算是未来不可阻挡的潮流。

再加上LPCAMM、1.6T网络带宽等新元素，云数据中心、超算中心的效率也会进一步拉升。可以预见，AI算力的“军备竞赛”才刚刚开始。谁在硬件、软件生态上抢先一步，就可能在下一波AI浪潮中爆发。

-来源于下载集

?

微信扫一扫
关注该公众号

关于我们

北京汉深流体技术有限公司 是丹佛斯中国数据中心签约代理商。产品包括FD83全流量双联锁液冷快换；液冷通用快速接头UQD & UQDB；OCP ORV3盲插快换接头BMQC；EHW194 EPDM液冷软管、电磁阀、压力和温度传感器。在国家数字经济、东数西算、双碳、新基建战略的交汇点，公司聚焦组建高素质、经验丰富的液冷工程师团队，为客户提供卓越的工程设计和强大的客户服务。

公司产品涵盖：丹佛斯液冷流体连接器、EPDM软管、电磁阀、压力和温度传感器及Manifold。
未来公司发展规划：数据中心液冷基础设施解决方案厂家，具备冷量分配单元（CDU）、二次侧管路（SFN）和Manifold的专业研发设计制造能力。

- 针对机架式服务器中Manifold/节点、CDU/主回路等应用场景，提供不同口径及锁紧方式的手动和全自动快速连接器。
- 针对高可用和高密度要求的刀片式机架，可提供带浮动、自动校正不对中误差的盲插连接器。以实现狭小空间的精准对接。
- 基于OCP标准全新打造的液冷通用快速接头UQD & UQDB ;OCP ORV3盲插快换接头BMQC , 支持全球范围内的大批量交付。