英伟达为数据中心和edge SoC工作负载赢得了新的AI推理基准

NVIDIA在周三发布的最新一套MLPerf基准上又赢得了一场胜利。这家GPU制造商表示，它在新的MLPerf推理基准上发布了最快的结果，该基准测试了数据中心和边缘的AI推理工作负载的性能。

MLPerf的五个推理基准，适用于四种推理场景，涵盖了AI应用，如图像分类、目标检测和翻译。NVIDIA以图灵GPU为核心的数据中心场景(服务器和离线)都达到了所有五个基准。

与此同时，泽维尔SoC在商业上可获得的EDGE和移动SoC中，在单一流和多流的边缘聚焦场景下提交了MLPerf的最高性能。

“现代人工智能推断真的很难，”Nvidia加速计算业务的产品营销总监PareshKharya本周告诉记者。“如今部署的神经网络的多样性是巨大的，复杂性也是巨大的。随着我们进入更复杂、更有趣的用例，比如对话式人工智能，这些模型的复杂性正在急剧增加。”

MLPerf是一个广泛的基准套件，用于衡量机器学习(ML)软件框架(如TensorFlow、PyTorch和MXNet)、ML硬件平台(包括Google TPU、Intel CPU和NVIDIA GPU)和ML云平台的性能。去年，几家公司以及哈佛、斯坦福和加州大学伯克利分校(UniversityofCalifornia Berkeley)等机构的研究人员首次同意支持这些基准。目标是向开发人员和企业IT团队提供信息，帮助他们评估现有的产品并专注于未来的开发。

至于最新的推理基准，NVIDIA将其平台跨一系列人工智能工作负载的可编程性归功于其强大的性能。

Kharya说：“人工智能不仅仅是为了加速人工智能应用的一个神经网络阶段，而是要加快整个端到端管道的速度。”在NVIDIA，我们专注于为我们提供的所有产品提供单一的体系结构和单一的编程平台以及优化。

NVIDIA还推出了Jetson系列的最新成员，其目标是自主和嵌入式系统。该公司宣布推出JetsonXavierNX，被描述为提供了哈维尔纳米尺寸的性能。该模块的时钟大小约为一张信用卡，提供多达21顶，并消耗只有10瓦的电力。

NVIDIA表示，JetsonXavierNX非常适合于复杂的电源和尺寸限制（包括无人机、高分辨率摄像头和传感器、视频分析系统）的机器人和嵌入式应用。该系统将于2020年3月提供399美元。