第五代至强可扩大的最新MLPerf测试效果充沛展示了英特尔及其生态分工火伴在晋升天生式功能方面的结果。
近日，MLCommons颁布了针对AI推理的MLPerf v4.0基准测试效果。此中，内置了英特尔®高等矩阵扩大（英特尔® AMX）的第五代英特尔®至强®可扩大处理器（如下简称“第五代至强”）在测试中体现优秀，进一步彰显了英特尔致力于经由过程厚实且拥有竞争力的解决计划推进 “AI无处不在”的许诺。截至今朝，英特尔还是仅有一家提交MLPerf测试效果的厂商。与第四代至强在MLPerf推理v3.1基准测试中的效果相比，第五代至强的测试效果均匀晋升1.42倍。
英特尔公司副总裁兼与事业部产物治理总经理Zane Ball暗示：“咱们将继续晋升CPU和加速器等普遍产物组合在行业基准测试中的AI功能。这次全新的MLCommons效果表现，咱们供应的AI解决计划可以或许餍足客户不息变迁、多样化的AI需要。同时，至强处理器也为客户供应了可倏地完成AI安排，且极具性价比的抉择。”
英特尔产物迄今为止在多轮MLPerf基准测试中均所展示出当先的锻炼及推理功能，该测试效果亦为客户树立了可用于评价产物AI功能的行业规范。
对于第五代至强的测试效果：
与第四代至强在MLPerf推理v3.1功能基准测试中的体现相比，经过及优化的第五代至强功能均匀晋升1.42倍。此中，针对具有继续批处理（continuous batching）等软件优化的GPT-J模子，与v3.1的测试效果相比，第五代至强的功能晋升约1.8倍；异样，得益于MergedEmbeddingBag以及基于英特尔AMX的其余优化，DLRMv2的测试效果显示出约1.8倍的功能晋升和99.9的准确率。
第五代英特尔®至强®可扩大处理器
与此同时，英特尔异常自大地与包孕思科、戴尔、广达、Supermicro和纬颖科技在内的泛博OEM火伴们睁开分工，助力其提交基于本身产物的MLPerf测试效果。英特尔不仅于2020年开端提交基于第四代至强的测试效果，同时至强可扩大处理器亦是介入MLPerf测试的产物中，浩繁加速器的主机CPU。 另外，第五代至强可在英特尔®开发者云平台上举行评价。该环境中，用户能够举行小型及大规模AI锻炼（比方大言语模子或天生式AI）、运转大规模的推理事情负载，以及治理AI计较资本等。
