大容量で高速なメモリによる高いパフォーマンス

NVIDIA HopperアーキテクチャをベースとするNVIDIA H200は、4.8TB/sで141GBのHBM3eメモリを提供する初のGPUです。これは、NVIDIA H100 TensorコアGPUの約2倍の容量で、メモリ帯域幅は1.4倍です。H200の大容量かつ高速なメモリは、生成AIとLLMを加速し、エネルギー効率を向上させ、総所有コストを低減し、HPCワークロードのための科学コンピューティングを前進させます。

高性能なLLM推論でインサイトを引き出す

進化し続けるAIの世界では、企業はさまざまな推論のニーズに対応するためにLLMを利用しています。AI推論アクセラレータは、大規模なユーザーベース向けにデプロイする場合、最小のTCOで最高のスループットを実現する必要があります。

H200は、Llama2のようなLLMを扱う場合、H100 GPUと比較して推論速度を最大2倍向上します。

ハイパフォーマンスコンピューティングをスーパーチャージ

メモリ帯域幅は、より高速なデータ転送を実現することで、ボトルネックとなる複雑な処理を削減するため、ハイパフォーマンスコンピューティングアプリケーションにとって極めて重要です。シミュレーション、科学研究、人工知能のようなメモリを大量に使用するHPCアプリケーションでは、 H200の高いメモリ帯域幅が、データへのアクセスと操作を効率化し、CPUと比較して110倍の早さで結果を得ることができます。

エネルギーとTCOの削減

H200の導入により、エネルギー効率とTCOが新たなレベルに到達します。この最先端のテクノロジーは、すべてH100 TensorコアGPUと同じ電力プロファイル内で、かつてないパフォーマンスを提供します。AIファクトリーとスーパーコンピューティングシステムは、高速なだけでなく、環境にも優しく、AIと科学のコミュニティを推進する経済的優位性を提供します。

第 5 世代の Tensor コア

第5世代Tensorコアは前世代比で最大3倍のパフォーマンスを実現し、FP4精度とDLSS 4 マルチ フレーム生成テクノロジのサポートが追加されています。 ローカルLLMの高速化、新しいAIモデルのプロトタイプ作成、コンテンツ作成とグラフィックスの向上を促進します。

第 4 世代の RT コア

第4世代のRTコアは、前世代比で最大2倍のパフォーマンスを実現し、M&Eコンテンツの作成、AECO設計、製造プロトタイピングにおいて、レンダリングを高速化します。 最大100倍のレイ トレーシングの三角ポリゴンを生成可能にするRTX Mega Geometryといったニューラル グラフィックス ベースの技術を使用し、写真のようにリアルで物理的に正確なシーンと臨場感のある3Dデザインを作成できます。

CUDA コア

Blackwellは、最新のSMおよびCUDA® コア テクノロジを搭載した、史上最も強力なプロフェッショナル向けRTX GPUです。 このSMは、処理スループットの向上とプログラマブル シェーダーの内部にニューラル ネットワークを統合する新しいニューラル シェーダーを搭載しています。今後10年間のAI拡張グラフィックスのイノベーションが推進されます。

96 GB の GPU メモリ

新たに改良されたGDDR7メモリにより帯域幅と容量が大幅に増え、アプリケーション実行の高速化と、より大規模で複雑なデータセットの処理が可能になります。 96GBのGPUメモリにより、大規模な3DおよびAIプロジェクトに取り組み、大規模なVR環境を探索し、より大きなマルチアプリ ワークフローを実現できます。

第 9 世代の NVENC

第9世代のNVIDIA NVENCエンジンは、ビデオのエンコード速度を大幅に高速化し、プロフェッショナル ビデオ アプリケーションの品質を向上させます。 4:2:2 H.264およびHEVCエンコーディングの新しいサポートを追加し、HEVCおよびAV1エンコーディング品質を向上させます。

第 6 世代 NVDEC

第6世代のNVIDIA NVDECエンジンは、最大2倍のH.264デコード スループットを実現し、4:2:2 H.264およびHEVCデコードをサポートしています。 プロの編集者は、高品質のビデオ再生、ビデオ データの取り込みの高速化、高度なAIを活用したビデオ編集機能などを使用できるようになります。

マルチインスタンス GPU

マルチインスタンスGPU (MIG) は、最大4つの完全に分離されたインスタンスの作成を可能にすることで、RTX PRO 6000 Server Editionのパフォーマンスと価値を拡張します。 各MIGインスタンスは独自の高帯域幅メモリ、キャッシュ、および計算コアを持ち、サービス品質 (QoS) を保証し、すべてのユーザーに高速コンピューティング リソースを提供します。

PCIe Gen 5

PCI Express Gen 5のサポートにより、PCIe Gen 4と比較して帯域幅が2倍になるため、CPUメモリからのデータ転送速度が向上し、AI、データ サイエンス、3Dモデリングなどのデータ集約型タスクでパフォーマンスが高速化します。

DisplayPort 2.1

DisplayPort 2.1により、プロフェッショナルは比類のない視覚的な明瞭さとパフォーマンスを得ることができ、240Hzで最大8K、60H で最大16Kの高解像度で表示できます。 帯域幅の増加により、マルチタスクや共同作業に理想的な、シームレスなマルチモニターのセットアップが可能になります。また、HDRやより高い色深度のサポートにより、ビデオ編集、3Dデザイン、ライブ配信などの精密な作業での色精度が確保されます。