「AMD EPYC プロセッサー」はデータセンター向けプロセッサーとして第1世代である「EPYC 7001 シリーズ」が2017年にリリースされました。第1世代 EPYCでは複数のダイを単一のパッケージに統合したマルチダイ化によりコストを抑え、性能向上のためのアプローチとしてMCM（Multi Chip Module：マルチ・チップ・モジュール）構成を採用、「Infinity Fabric」と呼ばれるインターコネクト技術により4つのダイが接続されています。
これにより第1世代 EPYCでは8個のZEN CPUコアを搭載したダイを4個使うことで最大32コアのCPUを実現しています。

2019年にリリースされた第2世代 EPYC プロセッサー「EPYC 7002 シリーズ」は、第1世代 EPYCのMCM構成を継承。8個のZEN2 CPUコアを搭載したダイを最大8個搭載し、新たにPCI Express Gen4のコントローラ、8チャネルのメモリコントローラなどを一つに集約したI/Oダイを接続。8コア×8ダイで最大64個のCPUコアを単一のCPUパッケージに搭載しています。

第3世代であるEPYC 7003シリーズ（Milan）はアーキテクチャを「Zen3」に刷新、メモリチャネルがこれまでの4，8チャネルに加え、6チャネルの動作もサポート。32MBのL3キャッシュを8コアで共有することでレイテンシが大幅に軽減するよう変更され、IPCは前世代との比較で最大19%向上しています。また、セキュリティ機能も拡張され安全性も強化されています。
プラットフォームは第2世代とソケット互換のため、既存システムのファームウェアをアップデートすることで第3世代にアップグレードすることが可能となっています。

第3世代 EPYCは前世代より製造プロセス、最大コア数などに大きな変化はないものの、新しいアーキテクチャ「ZEN3」に刷新されており、第2世代 EPYCに採用されていた「Zen2」と比較すると、IPC（Instruction Per Clock-cycle）が最大19％ほど改善されています。
アーキテクチャが新しくなったことにより、8つのCPUコアが32MBのL3キャッシュを共有し1コアあたりが使えるL3キャッシュが増加しているほか、6チャンネルのメモリチャネルをサポート。これによりメモリ構成が柔軟に選択でき、導入におけるコスト削減に貢献しています。

このほか、セキュリティ面も強化されており「AMD Infinity Guard」と呼ばれるセキュリティ機能を搭載、新たに「SEV-SNP」「Shadow Stack」機能が追加され仮想マシン環境の安全性を引き上げています。

NVIDIA A100 Tensor Core GPUはAIとHPC用途のためにデータセンター向けGPUとして開発されたVolta世代の後継として製造プロセスルール7nmのAmpereアーキテクチャを採用。第3世代のTensorコアを実装し、BFloat16、Tensor Float 32を新たにサポート、前世代のVoltaと比較しFP32演算、INT8のディープラーニング推論処理において20倍の性能を実現し、トレーニングと推論の両方が強化されています。
また、Multi-instance GPU(MIG)機能により単一のA100を最大7個のGPUとして扱うことが可能で複数のユーザーが独立したインスタンスとして利用できます。

• Ampereアーキテクチャ

世界最大のトランジスタ数540億の7nmプロセス チップ

• 第3世代Tensorコア

TF32を導入しAI性能が20倍に向上

• 第3世代NVLinkとNVSwitch

GPU間を相互に接続するNVLinkは前世代比で2倍のスループレットに向上し600GB/sで接続可能。

• 構造的疎性による推論の高速化

「疎行列」（Sparse Matrix）演算への対応と最適化によりAI性能を2倍高速化

• Multi-instance GPU(MIG)機能

単体のA100を最大7つの独立したインスタンスに分割し、複数ユーザーが互いに影響させることなく各自のワークロードを同時に実行できます。

• PCI Express Gen 4対応

汎用性を高めストレージ、ネットワークを高速化。