在Phoronix上开始我们的NVIDIA GH200 Grace Hopper基准测试是对72核Grace CPU性能和96GB HBM3内存的初步了解。以下是Grace CPU性能的一些初始基准测试，而Hopper GPU基准测试将在后续文章中发布。
NVIDIA的GH200将72核Grace CPU与H100张量核图形处理器相结合，支持高达480 GB的LPDDR5内存和96 GB的HBM3或144 GB的HBM3e内存。Grace CPU采用ARM Neoverse-V2内核，每个内核具有1MB的二级缓存和117MB的三级缓存。
GPTshop.ai提供对NVIDIA GH200的访问，以便在Phoronix进行基准测试。作为一台围绕GH200打造的超级计算机，GPTshop.ai正在打造他们的目标，即“终极高端台式机”，专注于人工智能和高性能计算工作负载。他们的系统使用GH200 Grace Hopper超级芯片双2000瓦特电源、QCT主板，并可配置多个固态硬盘以及各种NVIDIA Bluefield/Connect-X适配器等。
考虑到台式机的焦点，GPTshop.ai GH200系统安装在塔式机箱中。该系统还经过了优化，在运行时非常安静，同时仍然依赖于空气冷却--尽管他们确实为那些想要液体冷却的人提供了GH200液体型号。
GH200的定价并不便宜，目前可用的GPTshop.ai GH200 576GB型号起价为47，500欧元（约41，000美元，因为在欧盟以外地区发货时不含税）。看到 这里针对不同的GPTshop.ai AI桌面系统配置和采购。
使用NVIDIA GH200标准AArch64 Linux发行版可以在系统上运行。出于此次测试的目的，使用了带有Linux6.5的Ubuntu23.10来拥有最新的内核，以及GCC 13常用的编译器。工具链版本接近于4月份在Ubuntu 24.04 LTS中发现的版本，使用Ubuntu 23.10值得一看NVIDIA GH200 Linux的前沿性能，以及与其他Intel Xeon Scalable、AMD EPYC和Ampere Altra Max处理器进行比较。
测试的GPTshop.ai GH200系统配备72核、广达S74G主板、480 GB内存和960 GB Samsung MZ1L2960HCJR-00A07+1920 GB Samsung MZTL21T9固态硬盘。在此比较中测试的所有服务器处理器都以其最高额定内存频率和支持的最大内存通道数运行。
在这项最初的GH200 CPU基准测试中，其他处理器包括：
-EPYC 8534P
-EPYC 8534PN
- EPYC 9554
-EPYC 95542P
-EPYC 9654
-EPYC 9654 2P
-EPYC 9684X
-EPYC 9684X 2P
-EPYC 9754
-EPYC 9754 2P
-至强白金8280 2P
-至强白金8380
-至强白金8380 2P
-至强白金8490H
- 至强白金8490H 2P
-至强白金8592+
-至强白金8592+2P
-安培Altra Max M128-30
-GPTshop.ai GH200
如前所述，Ubuntu23.10在所有这些服务器上都在使用，对于第一轮基准测试，都是以CPU为重点的基准测试。关于H100 GPU的基准测试将作为后续文章以及GPTshop.ai GH200的其他各种Linux性能基准测试，以及在未来几周将GPTshop.ai与QCT和Giga计算GH200服务器的性能进行比较。
感谢GPTshop.ai提供远程访问，使这一独立的NVIDIA GH200基准成为可能。
不幸的是，今天的文章没有耗电量的数字。NVIDIA GH200目前似乎没有在Linux下公开任何RAPL/PowerCap/HWMON接口，因为它只能读取GH200的功率/能量使用情况。系统上的BMC确实通过Web界面公开了整个系统的功耗，但IPMI没有公开电源数据，因为它能够从主机干净地查询这些数据。因此，不幸的是，本文只是初始的原始CPU性能基准数据，同时正在努力找出能够很好地读取任何可用的功率指标的方法。
