Intel Xeon Max在OpenVINO上的性能提升ONNX与Linux 6.9

上周,我惊讶地看到AMD EPYC在使用开发中的内核的Linux 6.9上获得了许多性能提升,我很好奇其他平台可能会从这个将于5月稳定发布的内核上获得更好的性能。本周,我使用超微超级服务器SYS-221H-TNR运行了一些新的英特尔至强Max基准测试。我们对Linux 6.8 stable和Linux 6.9-rc2进行了230多次基准测试,以寻找性能差异。

Linux 6.9有很多新特性,我对上周提到的AMD第四代EPYC性能提升感到惊讶。在Linux 6.9中没有任何显式的AMD EPYC性能优化,但是在内核调度器、工作队列和其他常见的低级代码上做了一些工作。所以我也很好奇英特尔至强可扩展的新内核的收益。在上次运行Xeon Max基准测试的几周后,我首先使用SuperMicro服务器测试了Linux 6.8和6.9-rc2的一些基准测试,在测试之间没有对系统硬件/软件状态进行任何其他更改。

Intel Xeon Max在OpenVINO上的性能提升ONNX与Linux 6.9-每日运维

在这一轮的基准测试中,两个Intel至强Max 9480处理器以HBM缓存模式运行,涉及236个不同的基准测试,涉及各种领域/工作负载。让我们看看Linux 6.9对英特尔至强处理器的不同之处。