锐单电子商城 , 一站式电子元器件采购平台!
  • 电话:400-990-0325

算力重器DPU,火得猝不及防

时间:2024-04-29 14:37:10

作者:丰宁

自问世以来,始终接纳的冯·诺依曼架构,该架构以计较和存储为焦点。此中作为单位,担任施行种种算术和逻辑计较。RAM和硬盘则担任存储数据,与CPU举行交互。

再起初图形、3D设想等多媒体的高速进展,要处置的工作量越来越大,也愈来愈庞杂。为了帮CPU分管压力,特地举行图象和图形处置事情的GPU应运而生。

往常,跟着数字经济的发达进展,特别是天生式、大数据分析、、等使用的敏捷遍及与实行,环球各行各业对大规模的渴求呈现出急剧增进的态势。这时,DPU(数据处置单位)凭仗其卓着的功能和怪异上风,慢慢崭露头角,成为推进算力晋升的关头手艺之一。

英伟达首席执行官黄仁勋曾在演讲中暗示:“ DPU 将成为将来计较的三大支柱之一,将来的标配是‘ CPU + DPU + GPU ’。CPU 用于通用计较, GPU 用于加快计较, DPU 则举行数据处置。”

那末DPU的首要感化为什么?相比CPU、GPU有哪些上风?

DPU与CPU、GPU的首要差别

DPU的涌现并不是有时,而是对日趋增进的数据处置需要的无力回应。

从功能上看,CPU、GPU和DPU虽都属于计较处理器,但各自擅长分歧性能。CPU担任计算机体系的团体运转,是计算机的"大脑”,适用于种种普遍的使用,但在处置大规模数据和特定计较使命时功能相对于无限。

GPU是用于图形计较使命的公用处理器,比方3D图象衬着或视频处置等。关于大规模使命(如深度进修锻炼)有必定上风,但在一些特定使命上大概并非最好抉择。

而DPU特地设想用于数据处置使命,拥有高度优化的布局,适用于特定畛域的计较需要。其灵活性和高性能使其成为将来计较的首要构成部份。

从架构上看,CPU由几个性能壮大的处置焦点构成,这些焦点针对串行处置进行了优化,上风在于按次第逐一施行使命。GPU包括少量更简略的焦点,针对进行了优化,上风在于同时处置少量使命。DPU则由处置焦点、硬件加速器元件和高性能组合而成,便于其处置以数据为中央的大规模使命。

再看使用畛域,CPU简直存在于统统计较设置装备摆设傍边,包孕、计算机、等。GPU常被用于游戏PC设置装备摆设。

DPU则首要用于数据中央。是DPU的焦点手艺之一,它拥有在硬件级别上从新设置的才能,使其适用于多种计较使命。DPU应用FPGA的灵活性,经由过程从新设置硬件来完成高效的数据处置。异构计算是DPU的另一个关头手艺,它经由过程同时应用分歧范例的处置单位来施行使命,以进步团体功能。异构计较中的处置单位能够包孕CPU、GPU、FPGA等,它们配合合作实现计较使命。在两大手艺的加持下,DPU可以或许充沛发扬其功能上风,为数据中央供应壮大的计较才能支撑。

事实上,DPU曾经不是第一个为填补CPU才能缺乏而备受存眷的产物,多年前GPU的大热也是为了填补CPU在图形处置才能方面的短板。换句话说,从CPU、GPU再到本日的DPU,手艺变更暗地里表现的实际上是时期的变迁、用户需要的变迁。

DPU的使用正在走向多场景化

DPU 分管的事情能够归结为四个关键词,分别是虚构化、网络、存储以及平安。

DPU经由过程将操纵立体下放,从而完成主机营业与操纵立体的完整断绝,从而提升了虚构环境的安全性。DPU的高效数据处置才能加快了虚拟机间的,提高了虚构化功能。

另外,存储行业的刷新算法和完成,也能够在 DPU 架构中,独立于服务器操纵体系举行安排。 DPU 手艺赞助存储厂商完成真正的 “算存分手”。

在网络与平安方面,跟着数据泄漏和隐衷泄漏的事情频发,数据平安和隐衷维护曾经成为一个备受存眷的题目。DPU能够应用硬件卸载和加快内联平安办事,供应壮大的零相信维护,无效断绝主机营业和操纵立体,确保数据安全性。

详细到各个场景的使用中,上文提到的数据中央只是DPU首要的使用畛域之一。

除了数据中央,DPU异样可以或许“操作把持”浩繁使用。在HPC和场景,DPU可提供超高带宽、无损网络和高速存储造访才能,可为HPC和AI供应营业所需的超高功能网络。网络、存储与安满是DPU的首要使用。

在风起云涌的边缘计较畛域,DPU的引入大有裨益。跟着营业增多,边缘算力和带宽需要大幅增添,但边缘办法的范围和才能受限,CPU首要餍足焦点营业的算力需要,对本不长于的网络、存储、安全等相干处置得空顾及。引入DPU可大大下降此类DPU对CPU的损耗,同时应用公用硬件晋升处置功能,从而大幅晋升边缘计较的处置才能。

在智算场景下DPU也领有辽阔的市场空间,DPU经由过程高性能网络及畛域性能硬件卸载,为供应了大带宽、高吞吐、低时延的根底办法才能,从而消除了数据IO瓶颈,释放了算力。这使得DPU成为智算中央根底办法的必选项,大幅提升了计较集群的算效比。

多元化的使用场景为DPU带来了厚实的贸易机缘,将来DPU有望进一步拓展至主动驾驶、野生智能和元宇宙等畛域。

DPU疆场百家争鸣

跟着 DPU 手艺计划加倍成熟、数据中央在环球范围内加快落地,英伟达、英特尔等厂商数据处置类DPU/IPU大规模量产,环球 DPU 市场将在将来几年迎来爆发式增进。

DPU 行业市场集中度较高。依据头豹研究院数据,近年来海内 DPU 市场中,国际三大巨子英伟达、、英特尔的份额分手达到 55%、36%、9%。Xilinx、Marvell、Pensando、Fungi、Amazon、Microsoft 等多家厂商在近 2-5 年内也均有 DPU 或类似架构产物出产,较海内相对于较早。

英伟达的数据中央“野心”

在上表列出的诸多公司中,英伟达拥有先发上风。2019年3月,英伟达破费69亿美圆收买了以色列芯片公司 Mellanox 。英伟达将 Mellanox 的 ConnectX 系列高速手艺与本人的已有手艺相结合,于2020年正式推出了两款 DPU 产物BlueField-2 DPU 和 BlueField-2X DPU,正式拉开 DPU 进展的尾声。

往常,英伟达的BlueField 系列芯片已抵达第三代,英伟达 BlueField-3 DPU 是一款支撑 400Gb/s 速率的根底办法计较平台,可以或许线速处置软件界说网络、存储和网络平安使命。BlueField-3 将壮大的计较才能、高速网络和普遍的可编程性集于一身,可为请求刻薄的事情负载供应软件界说的硬件加快解决计划。从加快 AI 到混杂云和高性能计较,再到 ,BlueField-3 从新界说了种种可能性。

英伟达的DPU首要作用是数据平安、网络平安与存储卸载等。在英伟达对DPU的结构中也足以看到,它在数据中央这一使用畛域的野心,也有人称,英伟达正“试图应用DPU再一次复制此前GPU替换表现加速卡成为通用的门路”

英特尔推出IPU迎战数据中央

英特尔在2021年6月新宣布的IPU产物(能够被视为Intel版本的DPU),将FPGA与Xeon D系列处理器集成,成为了DPU赛道无力的竞争者。IPU是拥有强化的加速器和连贯的高等网络设置装备摆设,它应用慎密耦合、公用的可编程内核加快和治理根底架构性能。2022 年的 Vision 环球用户大会时期,英特尔又颁布了 IPU 进展蓝图,显现近三年及将来马上问世的产物与平台。

在进展蓝图中,英特尔揭穿 3 款 IPU 产物,分手对应 ASIC、IPU 平台、SmartNIC,另外英特尔还揭露了两条进展门路,一个是基于专属 ASIC 芯片的 IPU,代号为 Mount Evans;另一个则是基于 FPGA 架构的两种加快解决计划,代号为 Oak Springs Canyon 的 IPU 平台。

针对两种 IPU 使用特点的差别,英特尔也在此做出最新的诠释。若是基于 FPGA 架构而成的 IPU,能更快提供市场需要,支撑继续演变的网络规范,透过能重复举行的可编程化特点,以及平安的材料传输门路,可以或许弹性处置多种特定事情负载;如果是基于 ASIC 架构而成的 IPU,可提供最好效能与功耗的搭配,能用于确保网络与存储等使命畛域的安全性进展蓝图表现,英特尔的第二代IPU已于2022年推出包孕Mount Evans(英特尔首款ASIC IPU)和Oak Springs Canyon(英特尔第二代FPGA IPU今朝正在google别的办事提供商出货。第三代IPU代号为Mount Morgan和Hot Springs Canyon的400 GB IPU预计2023/2024年开端向客户分工火伴出货。下一代800GB IPU预计2025/2026年开端向客户分工火伴出货另外曾经推出DPU处理器——Alveo SmartNIC产物组合。DPU能够用作自力的嵌入式处理器一般为被集成到SmartNIC里。博通旗下有Stingray,Marvell领有OCTEON和ARMADA产物系列。

相比于CPU和GPU赛道,DPU毫无疑难是一个斩新的竞技场跟着网络流量指数下跌,DPU市场远景辽阔。在国际巨子抓紧结构DPU营业的同时海内芯片市场也频传好消息。

DPU进入迸发期

除数据中央之外,、、网络安全等也是DPU下流使用畛域另外,DPU与DOCA关于天生式AI而言意思庞大依据Gartner,预计在 2026跨越80%的企业应用天生式AI编程接口模子或许相干出产环境安排支撑天生式AI使用步伐。据统计,这一比例在2023年还不到5%,这意味着在短短三年内接纳建立天生式AI模子的企业数目预计将会增进16倍。

也就是说将来3年天生式AI迸发的窗口期,也是遍及BlueField DPU和DOCA的机遇期。

锐单商城拥有海量元器件数据手册IC替代型号,打造电子元器件IC百科大全!

相关文章