H100和H800有什么区别？
H100 与 H800 对应的 80GB SXM 或 PCIe SKU，在主流 AI 精度（FP32、TF32、BF16/FP16、FP8、INT8）、显存容量和标称显存带宽上大体一致；核心规格差异主要集中在 FP64 双精度性能与 NVLink 互联带宽——H800 SXM 的 FP64 约 1 TFLOPS（H100 SXM 为 34 TFLOPS），NVLink 400 GB/s（H100 SXM 为 900 GB/s）。因此跑主流 AI 负载、单机或少卡场景，两者通常接近；以 FP64 为刚需的传统 HPC，或高通信密度的大规模并行训练，才是两者拉开差距的场景。
一、核心判断：算力口径大体一致，差异集中在 FP64 与 NVLink
两张卡同属 Hopper 架构、采用面向 NVIDIA 加速计算定制的 TSMC 4N 工艺的数据中心 GPU，都配备第四代 Tensor Core 与支持 FP8 的 Transformer Engine、第二代 MIG、NVLink、PCIe Gen5。把两张卡的官方数据表并排对照，绝大多数行数值相同：FP32、TF32 Tensor、BF16/FP16 Tensor、FP8 Tensor、INT8 Tensor、显存容量、显存带宽、TDP、MIG 实例数都一一对应。
在官方数据表口径下，真正不同的主要是以下几行：
| 差异项 | H100 SXM | H800 SXM | H100 PCIe | H800 PCIe |
|---|---|---|---|---|
| FP64 | 34 TFLOPS | 1 TFLOPS | 26 TFLOPS | 0.8 TFLOPS |
| FP64 Tensor Core | 67 TFLOPS | 1 TFLOPS | 51 TFLOPS | 0.8 TFLOPS |
| NVLink 互连 | 900 GB/s | 400 GB/s | 600 GB/s（桥接） | 400 GB/s |
两点说明。第一，FP64 的差距是数量级级别的：H800 SXM 的 FP64 只有 H100 的约 1/34，H800 PCIe 只有约 1/32，连 FP64 Tensor Core 也从 67/51 TFLOPS 降到 1/0.8 TFLOPS。这意味着 H800 通常难以胜任以双精度为刚需的传统科学计算与工程仿真。第二，NVLink 带宽从 900 降到 400 GB/s，SXM 版本约为 H100 的 44%，PCIe 版本约为 H100 桥接带宽的 2/3。需要澄清的是，这是单 GPU NVLink 聚合互联规格层面的差异，主要影响节点内多卡、特别是高通信负载并行任务的效率；跨服务器通信通常依赖 InfiniBand 或 RoCE 等网络，采用 NVLink Switch System 等特定系统时，互联范围仍需按整机架构核对。无论哪种情况，这一差异都不影响单卡自身算力。
二、核心规格对比
| 维度 | H100 SXM | H800 SXM | H100 PCIe | H800 PCIe |
|---|---|---|---|---|
| 架构 | Hopper（2022） | Hopper（2022） | Hopper（2022） | Hopper（2022） |
| FP64 | 34 TFLOPS | 1 TFLOPS | 26 TFLOPS | 0.8 TFLOPS |
| FP64 Tensor Core | 67 TFLOPS | 1 TFLOPS | 51 TFLOPS | 0.8 TFLOPS |
| FP32 | 67 TFLOPS | 67 TFLOPS | 51 TFLOPS | 51 TFLOPS |
| TF32 Tensor（稠密/稀疏） | 约 494 / 989 | 约 494 / 989 | 约 378 / 756 | 约 378 / 756 |
| BF16·FP16 Tensor（稠密/稀疏） | 约 989 / 1,979 | 约 989 / 1,979 | 约 756 / 1,513 | 约 756 / 1,513 |
| FP8 Tensor（稠密/稀疏） | 约 1,979 / 3,958 | 约 1,979 / 3,958 | 约 1,513 / 3,026 | 约 1,513 / 3,026 |
| INT8 Tensor（稠密/稀疏） | 约 1,979 / 3,958 | 约 1,979 / 3,958 | 约 1,513 / 3,026 | 约 1,513 / 3,026 |
| 显存 | 80GB HBM | 80GB HBM | 80GB HBM | 80GB HBM |
| 显存带宽 | 3.35 TB/s | 3.35 TB/s | 2 TB/s | 2 TB/s |
| 互联 | NVLink 900 GB/s＋PCIe Gen5 128GB/s | NVLink 400 GB/s＋PCIe Gen5 128GB/s | NVLink 600 GB/s（桥接）＋PCIe Gen5 128GB/s | NVLink 400 GB/s＋PCIe Gen5 128GB/s |
| TDP | 最高 700W（可配置） | 最高 700W（可配置） | 300–350W（可配置） | 300–350W（可配置） |
| MIG 多实例 | 最多 7 个（每个 10GB） | 最多 7 个（每个 10GB） | 最多 7 个（每个 10GB） | 最多 7 个（每个 10GB） |
| 整机生态 | HGX H100（4/8 卡）、DGX H100（8 卡） | 基于 H800 的 8 卡服务器或 HGX 类系统（以 OEM 整机为准） | 1–8 卡服务器 | 1–8 卡服务器 |
注：数据表标注的 Tensor 峰值为含结构化稀疏口径（脚注"采用稀疏技术，非稀疏规格降低 1/2"），上表稠密值按 2:1 折算，两张卡口径一致，等值处直接照写。H100 另有 NVL 双卡桥接版本，不在本文对比范围。
三、按场景看差异到底有多大
FP64 为主的高性能计算（HPC）：差距最大，H800 通常不适合。 气象、CFD 流体仿真、分子动力学、结构分析等传统科学计算依赖双精度。H100 SXM 的 FP64 为 34 TFLOPS（FP64 Tensor Core 67），H800 SXM 只有 1 TFLOPS，差了约 34 倍——这通常足以把 H800 排除出以高 FP64 吞吐为刚需的传统 HPC 工作负载。如果你的负载是这一类，H100 是更稳妥的选择；少数混合精度、或以 GPU 以外环节为瓶颈的 HPC 软件，仍需按实际软件与压测结果评估。
AI 大模型训练与推理：主流精度规格大体一致。 大模型训练与推理实际使用的是 TF32、BF16、FP16、FP8 与 INT8，而这些精度在两张卡上数值相同：SXM 版 BF16/FP16 Tensor 峰值同为 1,979 TFLOPS（含稀疏）、FP8 同为 3,958 TFLOPS，显存同为 80GB、带宽同为 3.35TB/s。因此单卡、单机、少卡规模下，两者在这些负载上的标称算力与显存条件大体相当；实际表现还会受 TDP 配置、OEM 整机拓扑、驱动与软件栈、具体云实例配置影响，应以实测为准。
高通信密度的大规模训练：NVLink 带宽差异开始起作用。 需要澄清的是，900 与 400 GB/s 首先是节点内 GPU NVLink 聚合带宽：当单机内多卡做张量并行、流水线并行等高频通信时，H100 的节点内互联余量通常更大。跨服务器扩展时，通信主要走 InfiniBand 或 RoCE 网络，扩展效率还取决于网卡、网络拓扑与带宽、NCCL 配置、并行策略与通信重叠，应以目标工作负载的实测为准。单机 8 卡以内、模型并行度不高的微调与中小规模训练，两者差距通常不明显。
推理服务：在相近配置下通常接近。 推理的吞吐与延迟主要由 INT8/FP8 算力、显存带宽和显存容量决定，这几项在两张卡上标称一致；FP64 几乎不参与推理，NVLink 带宽对单卡或数据并行推理的影响也有限。因此在相近 SKU、相同软件与整机配置下，H100 与 H800 的推理表现通常接近，实际吞吐与延迟仍以目标模型实测为准。
四、适用场景与注意事项
可以把差别概括成一句话：在官方数据表口径下，H800 是一张"AI 算力完整、双精度与高速互联被下调"的 Hopper 卡，H100 则是完整规格版。
- 选 H100 更合适的场景：以 FP64 为核心的 HPC 与科学仿真；高通信密度、依赖节点内 NVLink/NVSwitch 高速互联的大规模训练集群。
- 选 H800 更合适的场景：以 FP16/BF16/FP8/INT8 为主的大模型训练、微调与推理，尤其是单机、少卡、推理服务等对双精度和节点内高速互联不敏感的工作负载。
- 注意事项：无论选哪张，都要先确认自己的负载落在哪个精度上——如果只是跑主流 AI 框架，FP64 与 NVLink 的差异大概率用不到；如果在做科学计算或高通信密度的大规模集群训练，这一差异就可能是决定性的。规格表上的 Tensor 峰值为稀疏口径，实际吞吐须以目标模型、量化格式与实测为准。
五、怎么落地，从GPU租用起步
如果负载不依赖 FP64 和高通信密度的大规模互联，纯 AI 训练与推理的需求其实可以用消费级或专业级卡先起步。以轻量验证和小微部署为例，立方云平台上 RTX 5090 32GB 单卡按小时租用约 2.98 元/时（1 张卡/16 核 CPU/96GB 内存/30GB SSD）、8 卡整机月付 13,200 元（8 卡/64 核/512GB 内存/3.84TB×2），PRO 6000 96GB 单卡约 7.90 元/时。需要数据中心级大显存的，可以选择 H200 141GB、A100 80G SXM、H100 80G SXM5 等 8 卡整机，具体报价与方案，可通过在线咨询了解。实际可用实例、计费方式与配置以控制台实时展示为准。
FAQ
Q1：H800 是 H100 的"降级版"吗？
不完全。在 FP32、TF32、BF16/FP16、FP8、INT8 这些 AI 主流精度、显存容量与标称带宽上，两者官方数据表数值一致；差异主要集中在 FP64（双精度）与 NVLink 带宽。因此对多数 AI 训练和推理负载，H800 的 AI 算力并不低；涉及 FP64 或高通信密度的大规模并行训练时，H100 的完整规格才占优势。
Q2：跑大模型训练，H100 和 H800 差距大吗？
单机或少卡规模下差距通常很小，因为训练用的 BF16/FP16/FP8 算力、80GB 显存与 3.35TB/s 带宽两者相同。更大规模训练中，H100 节点内 900 GB/s 的 NVLink 聚合带宽比 H800 的 400 GB/s 通常更有利；而跨服务器扩展主要依赖 InfiniBand/RoCE 网络，实际差距还取决于网卡、网络拓扑、并行策略与通信重叠。
Q3：做科学计算（CFD、分子动力学），该选哪个？
这类负载以 FP64 为主，H800 的 FP64 只有约 1 TFLOPS，远低于 H100 的 34 TFLOPS，差距在 30 倍以上。以双精度为刚需的 HPC 场景应优先考虑 H100；少数混合精度或以非 GPU 环节为瓶颈的负载，按实际软件评估。
Q4：推理服务用 H800 可以吗，会比 H100 慢吗？
在相近 SKU、相同软件与整机配置下，若推理不依赖高通信量模型并行，两者推理表现通常接近；实际吞吐和延迟仍应以目标模型实测为准。推理主要由 INT8/FP8 算力、显存带宽与显存容量决定，这几项两者标称一致，且 FP64 几乎不参与推理。
Q5：H100 和 H800 的显存、带宽完全一样吗？
在官方数据表标称值上是一致的：SXM 版均为 80GB HBM、3.35TB/s 带宽，PCIe 版均为 80GB、2TB/s 带宽，MIG 也都是最多 7 个 10GB 实例。主要差异集中在 FP64 与 NVLink 两项；实际云实例的可用显存与配置仍以服务商控制台实时展示为准。