当NVIDIA A100在2020年初推出时，最令人困惑的规格可能是其板载40GB的HBM，上一代的NVIDIA V100最初为16GB，但最终也推出了32GB的型号，鉴于我们在A100的spec上看到的，A100相比V100会有100％的提升，那么40GB只是一个相对较小的提升。 现在我们终于有答案了，NVIDIA A100 80GB。
NVIDIA A100 80GB
新的NVIDIA A100 80GB将NVIDIA A100的内存容量增加了一倍，这儿，80GB的容量将使我们获得5个16GB HBMe栈。NVIDIA表示，由于产量原因，他们并没有使用你在下图中看到的第六点。
在预介绍中，NVIDIA说SXM4 NVIDIA A100 80GB仍然是400W的卡，我们还询问了PCIe卡，而NVIDIA告诉我们，此时该卡仍为40GB。我们猜想将来不会向市场推出80GB的PCIe卡。
NVIDIA还提供了我们可以根据workload获得更多性能的方法。 显然，那些内存受限的workload将在新模型中看到更好的性能。NVIDIA有选择地选择在此处显示哪些基准。
我们需要注意的是，这些卡并非像PCIe卡那样单独出售，NVIDIA现在仅在8x GPU的HGX板上出售这些显卡。还有一个不使用NVSwitch配置的4x A100 GPU的HGX Redstone平台。有了这个新的80GB产品，我们现在可以通过16x GPU型号(两个8x GPU NVSwitch HGX板)中获得1.28TB的内存，在8x GPU HGX板上获得640GB，在4x GPU Redstone non-NVSwitch平台中获得320GB。