IBM今天发布的一款人工智能推理服务器,已经作为美国国防部在一个容器中建造的人工智能超级计算机的一部分使用。

作为中国国防部高性能计算技术现代化发展计划(HPCMP)的一部分,这台新的超级计算机的运算处理能力为6千兆次。它将企业用于进行训练和推理系统工作可以负载。它还包括1.3 PB的固态存储器。

国防部人工智能超级计算机在运输集装箱中的渲染。该装置包括不间断电源、冷冻水冷却和灭火系统(图片:美国国防部HPCMP)

虽然这显然是大规模高性能计算的一个例子,但它仍然属于“边缘人工智能”的范畴。

赞助: 为芯片间连接选择正确的IP

美国国防部说,这种装在集装箱中的新型超级计算机被设计用于部署在战术边缘,在那里它可以支持在不可运输的超级计算机上不可能实现的军事关键用例。但短期内,它将安装在马里兰州美军作战能力发展司令部陆军研究实验室(ARL)的国防部超级计算资源中心(DSRC)。

IBM的用于AI推断的IC922服务器最多可以支持六个Nvidia Tesla T4 GPU加速器(图片:IBM)

国防部的超级计算机使用22个计算节点进行训练,128个节点进行推理,每个节点都有 gpu 加速。在培训方面,它依靠22台 ibm c922服务器,每台都有6台 nvidiav100gpu。

系统的推理部分基于几个IBMIC922服务器,是IBM目录下的新服务器产品,主要用于AI推理。这些服务器有两个Power9处理器(每个处理器有12、16或20个内核),国防部为每个处理器增加了六个英伟达T4 GPU,用于AI推理加速。每个插槽的最大峰值内存带宽为170 GB/s..

该装置还包括通过车载不间断工作电源、冷冻水冷却和灭火控制系统。

集装箱里的超级计算机很快就会投入生产使用。