
Ampere世代の後継であるHopperアーキテクチャは最先端のTSMC 4Nプロセスを使用し800億のトランジスタで構築されています。PCIe Gen5、HBM3を新たにサポートしAI、 HPC、メモリ帯域幅、相互接続、通信が高速化されています。
また、Multi-instance GPU(MIG)機能により単一のH100を最大7個のGPUとして扱うことが可能で複数のユーザーが独立したインスタンスとして利用できます。
|
|
|
---|---|---|
GPU | HGX H100 8-GPU | HGX H100 4-GPU |
フォームファクタ | NVIDIA H100 SXM 8基 | NVIDIA H100 SXM 4基 |
HPC および AI 計算 (FP64/TF32/FP16/FP8/INT8) |
535TF/8PF/16PF/32PF/32POPS | 268TF/4PF/8PF/16PF/16POPS |
メモリ | 最大 640 GB | 最大 320 GB |
NVLink | 第 4 世代 | |
NVSwitch | 第 3 世代 | N / A |
NVLink Switch | N / A | |
GPU 間の帯域幅を備えた NVS | 900 GB/秒 | N / A |
合計帯域幅 | 7.2 TB/秒 | 3.6 TB/秒 |