火爆网络的DPU，究竟是个什么？

无论也许你置身 ICT 领域，这几年有一个词你肯定听过，那便是 DPU 。

作为一个全新升级兴起的科技概念，DPU 正在以令人惊讶的速率兴起，变成整个市场乃至社会的高度关注关键。特别是投资行业，对 DPU 简直就是趋之如骛，把它视作将来刷新行业发展潜力技术性。

到底什么叫 DPU ？它跟我们耳熟能详的 CPU 、 GPU 有什么不同？

今日，小枣君带大家一起完全弄明白 DPU 的来龙去脉。

DPU 的英文全名称为 Data Processing Unit ，其实就是数据处理器。

NVIDIACEO黄仁勋曾经在演讲中表明：“ DPU 将成为将来计算的三大支柱之一，未来数据中心标准配置是‘ CPU DPU GPU ’。CPU 用以通用性计算， GPU 用以加快计算， DPU 则开展数据处理方法。”

听起来有些晕， DPU 究竟开展怎么样的数据处理方法？有了 CPU 和 GPU ，为什么还需要 DPU ？

大家都知道，自打计算机问世至今，便是所采用的有名的冯诺依曼构架。

冯诺依曼构架

这是一个以计算和储存为中心的构架， CPU 做为Cpu模块，承担进行各种各样算数和逻辑计算。而运行内存（运行内存）和电脑硬盘（外部存储），承担存储数据，与 CPU 互动。

除开 CPU 、内存和硬盘以外，便是电脑键盘、显示屏这种输出和输入机器设备。随着时间推移，之后，大家有了电脑鼠标，又有了独立显卡、网口。最后，构成了如今大家看到的电脑的最基本结构。

有了独立显卡，就有了 GPU（Graphics Processing Unit），图像处理器。人们都经常玩手机游戏，很明白，恰好是手机游戏、 3D 设计等多媒体系统绘图软件的蓬勃发展，需要处理工作量特别大，也变得越来越繁杂， CPU 确实太忙，所以才有了专业开展图象和图型有关计算的工作 GPU ，分担 CPU 压力。

DPU 的诞生，大道理也是一样的。一样是由于 CPU 无法压力一些繁杂的计算，因此需要开展任务分工。

好啦，终于到了关键环节了。说了半天， DPU 究竟分担了 CPU 的什么工作呢？

坦白说，要想从技术上表述 DPU 分担的工作任务，有点儿艰难，不易看明白。可是，我们要从工作场景中进行表述。

大概看来， DPU 分担工作能够概括为四个关键字，各是虚拟化技术、互联网、储存及其安全性。

非常需要友情提醒， DPU 是一个紧密围绕数据中心这个概念。换句话说，它主要运用于数据中心这类规模性算力情景，并非每一个人的台式电脑、笔记本或手机（起码现阶段并不是）。

DPU 服务项目于云计算，主要功能是提高数据中心等算力基础设施的高效率，降低耗能消耗，从而控制成本。

上面提到的虚拟化技术、互联网、储存及其安全性，是数据中心至关重要的工作中，都是很多耗费算力网络资源工作。

以互联网为例子。

在数据中心里，每时每刻都有大量数据信息在开展传送。服务器在接收数据信息时，要进行大量的⽹络协议书解决。依据传统计算构架，这种协议书解决均是由 CPU 完成。

有些人统计分析过，要想螺旋电缆解决 10G 的⽹络，所需要的⼤约4个 Xeon CPU 的核。换句话说，只是开展⽹络数据文件的处理方法，就需要占有⼀个8核⾼端CPU⼀半的算⼒。如今数据中心互联网不断完善，从 10G 到 40G 、 100G ，乃至 400G ⾼速⽹络，这种性能花销怎样承担？

这种花销如此大，以致于被称作“ Datacenter Tax（数据中心税）”。

业务流程程序流程并未运作，仅仅是连接数据网络，就耗费那么多算力网络资源，这也是无法忍受的。因此，就会有企业给出了SmartNIC （智能网卡）这个概念，将网络层协议处理工作中从 CPU “卸载掉”到网口上，为此分担 CPU 的负荷。

2015年，云计算生产商 AWS 首先逐渐探寻这类 SmartNIC 方式。她们投资了芯片供应商 Annapurna Labs ，并且于2017年宣布发布 Nitro 系统软件。同一年，阿里服务器也官宣有像是的功能飞龙（ X-Dragon ）构架。

2019年3月，英伟达显卡耗费69亿美金投资了非洲芯片公司 Mellanox 。英伟达显卡将 Mellanox 的 ConnectX 系列产品快速网口技术性和自己的已经有技术相结合，于2020年宣布上线了2款 DPU 商品：BlueField-2 DPU 和 BlueField-2X DPU 。

此后， DPU 这一概念开始进入了大众视线。2020年，又被称为 DPU 年间。

也正因为 DPU 和 SmartNIC 会有这样的历史渊源，因此，我们大多数将 DPU 视作 SmartNIC 的拓展全新升级。

DPU 在 SmartNIC 的前提下，将储存、安全与虚拟化技术等工作负载已经从 CPU 卸载掉到自己身上。

上个世纪90年代末，以 VMWare 为代表虚拟技术刚出现时，完全就是由手机软件开展仿真模拟线，欠缺硬件配置的大力支持，因此，性能比较差，基本上难以使用。

之后，2005年，伴随着科技的演变， CPU 和运行内存的硬件虚拟化难题慢慢处理，才可以虚拟化技术全面的性能有了大幅度的提高，也激发了此项技术性未来发展趋势与价值。大家都知道，我们现在的全部云计算构架，都是围绕虚拟技术发展起来。

虚拟技术发展过程，是硬件配置水平持续替代软件能力的一个过程。之前大家提及 AWS 公布 Nitro 系统软件。这个系统除开 SmartNIC 以外，也实现了 I/O 的硬件虚拟化。它也将虚拟化技术管理流程 Hypervisior 从 CPU 卸载掉到专用的硬件配置上。这么做产生结果就是，虚拟技术的性能耗损趋近于零， CPU 的压力进一步降低。

储存亦是如此。

如今数据中心对储存读取和写入的速度要求比较高。SSD 价钱慢慢降低后，将 SSD 根据当地 PCIe 或高速网络与体系相互连接，成为了一种热门的技术方案。对于分布式架构，在之前的 InfiniBand 、 FC（Fiber Channel，光纤通道）、 Ethernet 的前提下， RDMA（Remote Direct Memory Access，远程控制立即数据存取）技术性流行起来。

在 RDMA 模式下，应用软件的信息，不会再通过 CPU 和繁杂的电脑操作系统，直接跟网口通讯。这也就意味着， DPU 能够担负储存有关的高速接口接口协议解决，进一步为 CPU 分担工作压力。

最终再看一下安全性。

在当前愈来愈严峻的安全形势分析下，为了保证网络和全面的可以信赖，引进了很多的加密技术。过去，这种优化算法均是由 CPU 承担进行加密和解密的。

但实际上，网线端口才算是理想的个人隐私界限。在网线端口中进行加密和解密，这才是最科学合理的。因此，像国密规范非对称加密算法 SM2 、hash算法 SM3 和对称性分类加密算法 SM4 等，其实都可以交到 DPU 开展计算。将来，区块链应用完善运用后，有关优化算法是可以从 CPU 卸载掉到 DPU 所进行的。

总的来说，我想大家也看明白了， DPU 的功效实质，便是卸载掉、加快和防护——把 CPU 的那一部分工作中卸载掉到自己身上；利用自己算力专长，对这种工作进行了加快计算；全过程，完成了计算的防护。

DPU 是一个新式可编多核处理器，是一块 SoC（System On Chip）处理芯片。它合乎国家标准，具有较高的算力，还具有高性能的网线端口，能快速分析、处理数据，并有效地将传输数据到 CPU 和 GPU 。

DPU 和 CPU 最大的不一样，是 CPU 善于实用性计算每日任务（什么任务都可以接，较为“杂”），而 DPU 更擅长基础梁运用每日任务（做特殊任务，较为“潜心”），比如网络层协议解决，互换路由器计算，加密解密，数据编码等“脏活累活”。

我们都知道， DPU 是 CPU 的一个好助手，将和 CPU 、 GPU 产生“铁三角”，彻底颠覆数据中心的计算玩法。

这也是为什么 DPU 现如今备受瞩目的缘故。

如同文中开始常说， DPU 现阶段的受欢迎程度，早已不可以用词句来形容了。资产针对 DPU 的激情，也是让人印象深刻。不论是大佬或是新成立公司，纷纷开始进入 DPU 跑道。DPU 的行业依然在提温，发展趋势前景可期。

还是要以英伟达显卡为例子。继 BlueField-2 DPU 和 BlueField-2X 以后，2021年4月， NVIDIA 又发布新一代数据Cpu—— BlueField-3 DPU 。

BlueField-3 DPU

这也是第一款为 AI 和加快计算量身定做的 DPU ，对于多租户、云原生自然环境展开了提升，给予数据中心级软件定义和硬件加速器的网络、储存、安全与管理等服务项目。

据悉，一个 BlueField-3 DPU 所提供数据中心服务项目，可等同于高达300个 x86 核才能达到服务。这便释放出来了很多的 CPU 网络资源，用以运作关键业务运用。

若想充分发挥 DPU 在当代数据中心的核心理念，离不了手机软件的支持。也就是说，并没有app的处理芯片，仅仅昂贵碎石子。

为了能搭建更加强悍的DPU绿色生态，英伟达显卡专业发布了给 BlueField DPU 量身定做的软件开发工具——NVIDIA DOCA。

DOCA 的全名叫 Data Center Infrastructure On A Chip Architecture ，即“网上数据中心基础设施建设系统架构”。凭借 DOCA ，开发者可以运用国家标准的 API ，在 NVIDIA BlueField DPU 上迅速建立互联网，储存，安全与服务管理，及其 AI/HPC 的一系列应用软件与服务。

在2022年5月， NVIDIA 发布 DOCA 1.3 。该版本号不但新增了121个 API 开发接口，还加了提升数据流分析插进的 DOCA Flow 库、通讯安全通道库（ Communication Channel ）、正则表达式库（ Regular Expression ）和根据 OVN 的信息途径数据加密等服务，更加了 HBN （根据主机互联网）等工作，备受开发人员的热烈欢迎。

DOCA 1.3的构架

近日， NVIDIA 又发布 DOCA 1.4 ，在没有重新启动服务器的情形下适用DPU固件下载，在 BlueField-2 DPU 25G & 100G w/BMC 商品上适用 32GB DDR 运行内存，新增加对 AArch64 服务器适用，及其根据最多作为前缀配对（ LPM ）管路的路由功能。

依靠 DOCA 1.4 版本号，开发人员能够更加灵活、更方便、更便捷地在 BlueField DPU 中进行开发工具的配备，进而快速推新商品。

大伙儿随时可以申请注册，变成 NVIDIA DOCA 开发人员，加入到 DPU 的时代浪潮当中：

依据预测分析，到2025年， DPU 全世界市场需求预计做到120亿美元。

伴随着颠覆性创新慢慢进到短板，能够更有效地运用算力网络资源，我们应该大力推广 DPU ，让 CPU 、 GPU 、 DPU 开展合理分工，分别更为专注自己擅长的工作。那样，才能真正的将数据中心的能耗等级发挥到最大，为社会的企业战略转型给予强悍且翠绿色动力。