9月23日,全球权威AI基准评测公布最新榜单(推理) V1.1,在最受关注的固定任务()测试中,浪潮获得15项冠军,戴尔、高通、英伟达分别获得8项、5项和4项冠军。
是影响力最广的国际AI性能基准评测,由图灵奖得主大卫 帕特森(David )联合顶尖学术机构发起成立。2020年,非盈利性机器学习开放组织基于 基准测试成立,其成员包括谷歌、、英伟达、英特尔、浪潮、哈佛大学、斯坦福大学、加州大学伯克利分校等50余家全球AI领军企业及顶尖学术机构,致力于推进机器学习和人工智能标准及衡量指标。目前,每年组织2次 AI训练性能测试和2次 AI推理性能测试,为用户衡量设备性能提供权威有效的数据指导。
推理V1.1 AI基准测试固定任务()包括数据中心(共16个项目)和边缘(共14个项目)两大场景。在数据中心场景下设置6个模型,分别是图像识别()、医学影像分割(3D-UNet)、目标物体检测(SSD-)、语音识别(RNN-T)、自然语言理解(BERT)以及智能推荐(DLRM),其中Bert、DLRM和3D-Unet设有高精度(99.9%)模式。除3D-UNet模型任务只考察离线推理场景性能外,其他模型任务按照在线推理和离线推理两种应用场景分别进行性能测试。边缘场景AI模型在数据中心场景的6个模型基础上删减了智能推荐(DLRM)模型,并增加目标物体检测(SSD-)模型,所有模型均有离线推理场景和单流推理两个场景。
固定任务()要求参赛各方使用相同模型和优化器,这对于实际用户评测AI计算系统性能具备很强的参考意义,也一直是 中角逐最激烈及主流厂商最关注的领域。此次共有英伟达、英特尔、浪潮、高通、阿里巴巴、戴尔、HPE等19家厂商参与到固定任务()测试竞赛中,其中数据中心场景收到了754项成绩提交,边缘场景收到了448项成绩提交,共1199项成绩提交。
在固定任务的全部30个项目中,浪潮获得15项冠军,位居冠军数量第一,这也是浪潮连续第四次位居 AI基准测试冠军数量榜首。
此次 的开放任务(Open)赛道允许参赛方对模型进行任意处理,参加者有、Krai等6家厂商,数量较上届有下降。此外,本次 还共有、浪潮、高通以及戴尔等5家厂商在功耗任务上提交了结果,功耗评测或将成为未来 的关注重点之一。(王峰)