它是什么
H100 是 NVIDIA 于 2022 年 3 月公布的数据中心 GPU，基于 Hopper 架构。它配备 80GB HBM3 显存，引入第四代张量核心与 Transformer 引擎，并支持 FP8 精度，以提升大模型训练与推理的吞吐。多卡之间通过 NVLink 互联，单卡带宽达 900 GB/s。H100 是 2022 至 2024 年间大模型训练集群使用最广的加速卡之一。
为什么值得记住
它把 FP8 与 Transformer 引擎等面向大模型的设计直接做进硬件，成为 2022 年后大模型训练集群的默认选择，也是算力成为产业瓶颈的象征。
关键规格
- 架构
- Hopper
- 显存
- 80GB HBM3
- 制程
- 4N（TSMC）
- 互联
- NVLink 900 GB/s
- 发布
- 2022-03