H20 8卡服务器的整机和功耗规格是什么？
H20 8卡服务器的整机和功耗规格是什么？
一句话答案
H20 是面向 HGX 类多 GPU 平台的数据中心 GPU：单卡 96GB HBM3、4.0TB/s 显存带宽、TDP 400W（可配置），公开资料口径支持最多 7 个 MIG 实例。若 OEM 提供 H20 的 HGX Hopper 8-GPU 配置，8 张卡的聚合显存可达 768GB；浪潮、新华三等平台的公开规格可作为 HGX Hopper 8-GPU 服务器在形态、供电、尺寸与环境方面的参考，但 H20 的具体封装形态、可配置 GPU 数量及是否为某台整机当前可订购配置，应以厂商配置单或正式数据表确认。功耗上，GPU 部分按 8×400W 计约为 3.2kW；整机输入功耗取决于 CPU、内存、存储、网卡、散热与电源冗余配置，公开第三方口径存在分歧，本文不设定固定整机满载值，应以厂商功耗计算器或整机数据表额定值为准。H20 没有 NVIDIA 官方 DGX 整机作参照，整机规格与功耗以具体 OEM 配置单为准。
一、先看单卡：H20 的规格档位
8 卡整机由单卡决定基本盘，先把 H20 单卡按公开转载与多源汇总的数据表口径列出。Tensor 数值为含 2:4 结构化稀疏的峰值口径，稠密约为其一半：
| 项目 | H20（公开转载与多源汇总口径） |
|---|---|
| 架构 | Hopper |
| 显存 | 96GB HBM3 |
| 显存带宽 | 4.0TB/s |
| FP16/BF16 Tensor（TFLOPS，稀疏/稠密） | 148 / 约 74 |
| FP8 Tensor（TFLOPS，稀疏/稠密） | 296 / 约 148 |
| INT8 Tensor（TOPS，稀疏/稠密） | 296 / 约 148 |
| TF32 Tensor（TFLOPS，稀疏/稠密） | 74 / 约 37 |
| FP32（TFLOPS） | 44 |
| FP64（TFLOPS） | 1 |
| MIG 多实例 | 最多 7 个实例 |
| TDP | 400W（可配置） |
| 形态 | 公开资料多描述为 SXM、面向 HGX 类多 GPU 平台（实际封装与供货形态以配置单为准） |
两个观察。第一，H20 的显存配置高于 H100 的 80GB/3.35TB/s：96GB 容量、4.0TB/s 带宽，属于"大显存、高带宽"的档位，这也是它被大量用于大参数模型推理的原因——单卡能装下的模型规模上限高于 80GB 卡的 H100。第二，同精度对比下，H20 的张量算力档位明显低于 H100（如 FP16 Tensor 稀疏口径 148 对 1,979 TFLOPS），FP64 仅 1 TFLOPS，不适合双精度科学计算；各精度的详细对比可以参考此前的《H20单卡算力多少？显存和计算能力该怎么看？》(#)。本文聚焦整机与功耗，算力档位不再展开。
另外说明数据来源的边界：NVIDIA 官方渠道未公开提供 H20 数据表的下载入口（NVIDIA 开发者论坛对 H20 数据表询问的官方回复是联系销售团队），本文单卡数值采用公开转载与多源汇总的数据表口径并交叉核验，采购前建议向整机厂商索取正式数据表。H20 的节点内互联方面，公开资料的 NVLink 带宽标注存在不一致，本文不采用具体数值——多卡协同敏感的任务，采购或租用前应向服务商确认互联方式与拓扑。
二、8卡整机：HGX Hopper 平台上的 OEM 服务器
H20 是公开资料中多被描述为数据中心级、面向 HGX 类多 GPU 平台的模组，且没有 NVIDIA 官方命名的 DGX 整机（DGX 系列官方口径覆盖 H100/H200/B200 等）。市面上的 8 卡 H20 服务器，通常由 OEM 将 H20 配置到基于 HGX Hopper 8-GPU 底板的整机上（具体封装与供货形态以配置单为准）。这里以浪潮信息 NF5688G7（元脑系列，HGX Hopper 8-GPU 平台）的公开规格为例作为参考——注意，该页面可确认的是平台形态与部件规格，H20 是否为该机当前可订购配置，应以 OEM 配置单为准：
| 项目 | NF5688G7 公开规格 |
|---|---|
| 形态 | 6U 机架式，1 块 NVIDIA HGX-Hopper-8GPU 模组 |
| GPU 总显存 | 若搭载 H20 模组，8 × 96GB HBM3 = 768GB（以配置单为准） |
| 处理器 | 2 颗 Intel 第四代/第五代至强（TDP 350W）或 2 颗 AMD 第四代 EPYC（最大 cTDP 400W） |
| 系统内存 | 24 条 DDR5，速率最高 4800MT/s，最高 4TB |
| 存储 | 最多 24 块 2.5 英寸 SSD，其中最多 16 块 NVMe，最大 128TB NVMe |
| PCIe 扩展 | 10 个 PCIe 5.0 x16 插槽，可选 OCP 3.0、BlueField-3、CX7 等网卡 |
| 网络 | 系统支持 4.0Tbps 网络带宽（IB/RoCE 组网） |
| 电源 | 2 块 12V 3200W + 6 块 54V 2700W 钛金级 CRPS，支持 N+N 冗余 |
| 散热 | GPU 区域 6 个 54V N+1 冗余风扇；CPU 区域 6 个 12V N+1 冗余风扇 |
| 尺寸与重量 | 宽 447mm × 高 263mm × 深 860mm；净重 92kg（毛重 107kg） |
| 环境 | 工作温度 10–35°C；工作湿度 10%–80% RH |
三点说明。第一，这类整机是"平台"而非单一配置：NF5688G7 官方页可确认 HGX Hopper 8-GPU 平台与部件规格，H20 是公开资料中该平台常见的搭载 SKU 之一，但 H20 是否为该机型当前可订购配置，应以整机配置单确认为准；同一平台换 GPU 模组，整机功耗与散热设计也随之变化。第二，OEM 之间规格相近但不同：新华三 R5500 G6 同为 8-GPU 模组设计，GPU 供电平面提供 6×3000W 54V 白金或 6×3200W 54V 钛金电源，CPU 供电平面 2×1600W 12V 钛金或 2×2000W/2400W 12V 白金（1+1 冗余），采购时应以具体型号的数据表为准。第三，电源容量远大于实际功耗是冗余设计使然：NF5688G7 的 54V 平面 6×2700W 面向 GPU 区域供电并留足冗余，不能直接当作整机功耗读数。
768GB 的聚合显存是这套整机（若搭载 H20 模组）最直观的卖点：8 卡分片可以承载 BF16 裸权重约 380B 参数的模型（每参数 2 字节粗估，未含 KV cache 与激活），配合 MIG 也可以拆成多路中小实例做推理资源池。大模型在 H20 上的显存估算细节，可以参考《H20显存多大？适合跑什么规模的大模型推理？》。
三、功耗：GPU 3.2kW 起步，整机以配置单为准
功耗账分三层算。
单卡层：400W TDP。 本文采用的公开转载数据表口径，可配置。与 H100 SXM 的最高 700W 相比，H20 的单卡功耗档位低约四成。
GPU 层：8 × 400W = 3.2kW。 这是按 400W TDP 计算的 8 卡 GPU 部分合计量级，作为对照，8 卡 H100 SXM 满载为 5.6kW。
整机层：不设定固定满载值。 整机输入功耗还取决于 CPU、内存、存储、网卡、风冷或液冷方案以及冗余电源配置，不能由 GPU TDP 与 CPU TDP 直接加总得出。公开第三方口径本身就存在分歧：有服务器托管文章称八卡满载"突破 5.6kW、机柜含周边 6–7kW"，也有租赁商页面标注"峰值 4.2kW（含液冷）"，两处分歧反而证明不能拿单个数字当整机满载值。浪潮为 NF5688G7 提供在线功耗计算器，按 CPU、内存、存储与网卡的实际配置出数，采购前应以厂商功耗计算器或整机数据表额定值为准。
与 8 卡 H100 整机对比，方向上更清晰：
| 对比项 | 8 卡 H20（OEM 整机） | 8 卡 H100（DGX H100 官方口径） |
|---|---|---|
| GPU 部分（按 8 卡 TDP） | 约 3.2kW（按 400W） | 约 5.6kW（按 8×700W 最高） |
| 整机输入功耗 | 不设定固定值，以 OEM 配置单/功耗计算器为准 | 最高 10.2kW（DGX H100 官方额定） |
| 单卡 TDP | 400W（可配置） | 最高 700W（可配置） |
| 参照来源 | OEM 公开规格（GPU 合计量级） | NVIDIA 官方数据表 |
从 GPU TDP 合计看，8 张按 400W 配置的 H20 约为 3.2kW，低于 8 张最高 700W H100 的约 5.6kW；但整机输入功耗、供电、制冷与承重必须按实际 OEM 配置单核算，不能直接套用 DGX H100 的整机比例。H100 整机功耗的完整口径，可以参考《H100功耗多少？8卡服务器耗电量和机房要求是什么？》(#)。
四、机房要求：GPU 热密度低于 H100，整体须按配置单核算
按 NF5688G7 的公开规格与 GPU TDP 合计口径，机房侧的要求是：
- 供电：仍是 200–240V 数据中心级配电与多路冗余 PSU 设计，不能用办公回路解决；整机输入功耗与单机柜密度需按实际 OEM 配置单与功耗计算器核算后决定配电余量。
- 制冷：GPU 部分按 TDP 合计 3.2kW 起算，低于 8 卡 H100 满载的 5.6kW GPU 口径，单节点热密度相对更低；但实际制冷容量须按整机输入功耗与机房散热方案核算，不能仅按 GPU TDP 布线。
- 空间与承重：6U 机架高度、860mm 机身深度、净重 92kg，需要标准深度机柜与相应承重核算；重量约为 DGX H100（130.45kg）的七成。
- 环境：NF5688G7 公开口径工作温度 10–35°C、湿度 10%–80% RH，与多数数据中心机房的常规区间兼容；多节点高密度部署时仍应按台数叠加核算制冷。
- 网络：NF5688G7 平台最高支持 4.0Tbps 的 IB/RoCE 网络扩展；实际网卡型号、端口数、带宽和跨机网络拓扑需按配置单确认，仅节点内 8 卡运行时，不宜把跨机网络带宽当作必备条件。
一句话总结：从 GPU TDP 合计看，H20 8 卡（约 3.2kW）低于 H100 8 卡（约 5.6kW），热密度可能更低且整机更轻；但整机仍是数据中心级设备，供电、制冷与承重须按实际 OEM 配置单核算，5kW 级以上的持续热负载与多路冗余供电不是普通办公环境能承载的。
五、电费估算口径与落地路径
电费的规模感，取决于整机输入功耗——由于该值须依实际 OEM 配置单确定，这里不先给 H20 一个固定电费数字，仅给估算方法和可参照口径：整机输入功耗（以 OEM 功耗计算器或数据表的额定功率为准，单位 kW）乘以运行小时数即为耗电量，再乘电价得电费，并需计入制冷与设施开销。
作为可参照的对照，DGX H100 官方额定最高 10.2kW：
| 场景 | 功率口径 | 日耗电 | 月耗电（30天） |
|---|---|---|---|
| 8 卡 H100（对照，DGX 官方额定上限） | 10.2kW | 约 245 度 | 约 7,300 度 |
若同样按满载、电价约 1 元/度粗估，8 卡 H100 满载运行一个月的 IT 设备电费约 7,300 元。这是电价 1 元/度、负载率 100%、不含制冷与设施开销的假设口径；实际负载率通常低于满载，若按 PUE 1.2–1.4 的示例假设，设施总耗电可比 IT 设备耗电高约 20%–40%，实际以现场数据为准。H20 整机的电费须待其输入功耗按配置单确认后，用同一方法代入计算。
对多数团队，自建 H20 整机仍意味着整机采购、机柜配电、精密空调与运维的机房级投入。更常见的路径是按需租用：租用模式下电费、供电、制冷与硬件运维由平台侧承担，用户按小时或按月付费。 如果任务可以从消费级或专业级卡起步，立方云平台上 RTX 5090 32GB 单卡按小时租用约 2.98 元/时（1 张卡/16 核 CPU/96GB 内存/30GB SSD）、RTX 5090 8 卡整机月付 13,200 元（8 卡/64 核/512GB 内存/3.84TB×2），RTX PRO 6000 96GB 单卡约 7.90 元/时；需要数据中心级大显存整机的，可以考虑 H200 141GB、A100 80G SXM 等 8 卡整机裸金属，可以通过在线咨询获取方案、报价等。以上型号、价格与库存为（2026-09-16）立方云公开口径，实际可用实例、计费方式与配置以控制台实时展示为准。
立方云是杭州网鼎科技旗下专注GPU算力租赁的边缘算力平台。
FAQ
Q1：H20 8卡服务器整机功耗多少？
GPU 部分按 8×400W 计算约为 3.2kW；整机输入功耗取决于 CPU、内存、存储、网卡、散热与冗余电源配置，公开第三方口径存在分歧，本文不设定固定整机满载值，应以目标 OEM 的功耗计算器或配置单额定值为准。与 H100 相比，8 卡 GPU 部分 TDP 合计（约 3.2kW）低于 8 卡最高 700W H100（约 5.6kW），但不能据此直接给出整机功耗比例。
Q2：机房要为 8 卡 H20 准备什么？
数据中心级配电与多路冗余供电、按实际整机输入功耗核算的制冷容量、6U 机架空间与约 92kg 的承重（以 NF5688G7 公开规格为参照），工作环境 10–35°C。GPU 部分热密度低于 8 卡 H100 口径，但整机供电与制冷仍须按 OEM 配置单核算，不是普通办公环境能承载的。
Q3：H20 8卡的 768GB 显存能跑多大的模型？
8 卡聚合 768GB HBM3。按每参数 2 字节粗估，BF16 裸权重理论上限约 380B 参数（未含 KV cache 与激活，实际可用规模更低）；单卡 96GB 可容纳约 45B 参数的 BF16 裸权重。具体规模取决于并行方式、上下文长度与量化格式，可参考《H20显存多大？适合跑什么规模的大模型推理？》(#)。
Q4：H20 和 H100 的 8 卡整机在功耗上差多少？
从 GPU TDP 合计看，8 张按 400W 配置的 H20 约为 3.2kW，低于 8 张最高 700W H100 的约 5.6kW；但整机输入功耗、供电、制冷与承重必须按实际 OEM 配置单核算，不能直接套用 DGX H100 的整机比例，也不存在单一的"整机差多少"答案。两种卡型的算力与显存定位不同，功耗对比只是选型的一个维度。
Q5：租用云上的算力实例，还需要自己承担电费吗？
不需要。租用模式下电费、机房供电、制冷与硬件运维由平台侧承担，用户按公示价格付费（以立方云为例）。首页展示 RTX 5090 32GB 单卡约 2.98 元/时、RTX 5090 8 卡整机月付 13,200 元；实际价格与配置以控制台实时展示为准。