英伟达欧林出现在MLPerf

英伟达欧林出现在MLPerf

最新的一组MLPerf推理结果展示老供应商;几乎所有的数据中心和边缘加速器来自英伟达、高通。欧林是显著的新人。

最新的一组MLPerf推理结果展示老供应商;几乎所有的数据中心和边缘加速器来自英伟达、高通。一个明显的新人是Nvidia的欧林处理器,汽车和边缘设备的目标。

正式的“预览”类别,直到生产出货2 h22,欧林达到每秒6139图像(IPS) ResNet-50 v1.5离线,不到一个低端安培A10卡但使用更少的力量。事实上,欧林得分两次安培ResNet IPS每瓦特,尽管它主要收缩较大的基准,压力边缘处理器的矮小的缓存。

高通的云AI 100国防后勤局打败了欧林ResNet 23808 IPS。速度,然而,它使用75 w,比较是不公平的因为英伟达的显卡缺乏主机cpu。有所改观,高通Snapdragon主机处理器与配对20 w云智能芯片MLPerf权力比较;这种组合将近三倍欧林的系统级ResNet IPS每瓦特同时超过欧林对提交的其他三个基准高通的效率。

包装作为PCIe卡18到单个2 u服务器,高通ResNet-50性能大于6 u DGX-A100生成系统8安培卡。这种比较显示了云AI 100可以提供更大的性能密度,至少对于图像处理模型。