永远不要投资DPU？_亚马逊_技巧

文章目录 [+]

文丨亲爱的数据，作者丨谭婧

DPU是人工智能芯片之后的又一大热点。

永远不要投资DPU？_亚马逊_技巧永远不要投资DPU？_亚马逊_技巧互联网

业内人士笑谈，那些投资人研讨DPU的激情亲切，比造DPU的人还高。

（图片来自网络侵删）

有人在问DPU芯片是啥的时候，创业公司里，飘来一个熟习的女声：“支付宝到账，公民币一亿元。
”没错，便是融资额常常上亿。

别说互联网大厂，国字头大基金也刀背藏身，眼睛直勾勾盯着DPU，伺机而动。

云厂商对DPU芯片的渴望，是歇斯底里的。
逼得造DPU的人，鼻孔喷血，双眼冒火。

而坊间有个说法，DPU只有两个品牌——亚马逊云和阿里云，以及其他。

DPU的故事，要从好久之前讲起了。

（一）

1998年，美国斯坦福大学的球场上。

尖尖绿草被阳光温顺抚摸，孩子们尖叫雀跃，球衣鲜艳，带风奔跑。

球场外，一些家长等着接孩子回家。
他们中有的是斯坦福大学的同事及其家属。

旁边无事，家长群里的两位闲聊了起来。

“最近在忙啥？”

“创业了。
”

“创业方向是啥？”

“在一台打算机上可以跑多个操作系统。
”

提问的这位男士，文质彬彬，听到回答，溘然眼睛一亮，脱口而出：“这个想法挺好，很新鲜。
”

最怕一盛行家，遇见了一盛行家，一聊就迸射火花。

两位家长，在球场边，就地达成投资意向。

这位家长，不，这位看准就脱手的早期投资人，气质儒雅，风姿翩翩。

他便是张首晟，著名华裔物理学家，杨振宁的爱徒，紧张从事凝聚态物理领域的研究，斯坦福大学终生教授。

创业的那名家长也不大略，叫黛安·格林（Diane Green），一位天赋型女性管理者，从创业之日起，就担当高管，掌管公司长达十年之久。

后话是，她还管了一阵子谷歌云。

此番操作，把孩子们都看懵了。

另一个孩子的爸爸，黛安·格林的老公，是斯坦福大学教授，孟德尔·罗森布拉姆（Mendel Rosenblum，简称罗教授），是公司的首席科学家，他也是操作系统领域的天下级专家。

彼时创业路上，夫妇俩刚刚动身，公司名叫VMware。

二十多年后，这家公司成为虚拟化技能领域的巨子。

打算机技能的术语，常常闪烁理性光芒，而“虚拟化”这个词，一看便是镜花水月，太虚幻境，把一种风致高傲瘦骨如柴的玄幻气质，拿捏得去世去世的。

不虞外，虚拟化技能的一开始：学术研究站C位。

为数不多的高校在研究，美国斯坦福大学、英国剑桥大学。

屈指可数的公司在探索， IBM公司、英特尔公司、微软公司。

上世纪70年代是虚拟化学术研究的黄金年代，有多篇学术论文为这个方向奠定了理论根本。

科学技能这行，光凭论文弗成，得拿出东西来，还得用起来。

等有代表性的公司出身，年年等断肠，从七十年代，到九十年代，一等二十年。

据VMware公司CEO黛安·格林回顾，一天晚上，罗教授回到家，谈起事情，他说：“我想重新核阅虚拟化，将隔离引入操作系统，能同时运行新旧代码，又不必构建一个新的操作系统。
”

想法像大水一样从脑中涌出，罗教授非常激动，睡醒的第二天，就开始做原型。

不久之后，澎湃的行动力，让罗教授和他的学生们实现了X86 做事器的虚拟化。

科学家的朋友圈每每光芒四射，创始人集齐五位专家，摆开了阵型，对虚拟化发起冲锋，这一次载入史册。

“攻陷”X86，打开虚拟化由守转攻的新局势。

相传，虚拟化技能公司的文化和互联网企业文化不同。

美国斯坦福大学的学生闭眼挑offer的时候说，谷歌的文化吸引年轻人，撸狗上班，睡衣轰趴，而VMware 公司的员工则能在公司安稳地结婚生子。

随后，学术派传球至边路，PC的虚拟化接球。

虽然在小型PC机时期，虚拟化不是刚需，但是首创了硬件新玩法，沸腾了极客的热血。

小心翼翼问一句，虚拟化是不是在骗CPU？

理直气壮回答：CPU有一种被骗的“能力”。

虚拟化技能很厉害，还是要戒骄戒躁，后面的路，还长。

（二）

无疑，VMware公司是成功的，当开源天下崛起，软件甩开商业软件的统治，开源极客走上舞台。

请大家记住这两个虚拟化技能的精神小（领）伙（袖），由于他们对DPU的发展，至关主要。

按姓氏笔画排序：安东尼·李国瑞（Anthony Liguori），美国人。
张献涛，中国人。

2001年，英国剑桥大学打算机实验室，IanPratt教授带着几个博士生做了一个非常有名的虚拟化项目.

叫Xen project。

Xen的读音和“than”有点像，但不完备一样，发音不吐舌头。

Xen有一个弘大的、活力十足的开拓社区，深远地影响了云打算、虚拟化和安全。

两年后，Xen X86虚拟机监视器的第一个稳定版本就问世了。

2004年，张献涛在武汉大学，念博士。
多年寒窗，没有少下功夫，他技能水平强，动手能力更强。

技能大神何愁去处，可张献涛还是有些担心，由于虚拟化技能的择业面，太小了。

读博士，勤奋很主要，有一位好的博士导师也主要。

张献涛的博士导师，是环球有名的密码学家卿斯汉。
张献涛一定是花掉了很多运气，才碰着了这么一个好导师。

他一脸慈祥地对张献涛说：“虚拟化这个研究方向，我和英特尔有互助，你先去那里演习，别担心，我帮你安排，剩下的，要看你自己了。
”

而今看来，卿斯汉教授将张献涛送去企业演习，是完完备全从学生的利益考虑。

（有些博士导师那是去世活都不愿意放博士生出去干活，此处省略三千字吐槽）。

于是，张献涛从一名英特尔的演习生做起，一做便是3年。
光阴飞逝，技能水平飞涨，他于2008年正式入职英特尔。

他可能也没有想到，这份事情一干便是9年。

把镜头摇到2002年的美国IBM 公司，虚拟化的另一个前沿阵地。

一位名叫安东尼·李国瑞的大学生，在学校读书期间一贯在IBM演习，每周20小时，连续四年，风霜雪雨，从不间断。

2006年，安东尼入职IBMLinux 技能中央，成为一名软件工程师，这份事情一干便是7年。

人这生平，找到一个至心喜好的技能作为爱好，然后不计成本地付出韶光和耐心，存心打磨，收成的将不但是一个拿得脱手的技能。

更主要的，还有一个洗手不干的自己。

大概某日傍晚，彤霞染尽天边，张献涛在看云，安东尼也在看云，可能会有那么一瞬间，他们都意识到自己要和这个名字极富诗意的技能，打一辈子交道了。

世间分缘，分缘世间。

（三）

芯片江湖，有人，有酒，有故事，就有批评英特尔的声音。

PC为王的时期，由于虚拟化不是主流，以是英特尔X86指令集对虚拟化的做事态度很不友好。

这锅，得英特尔背，还背到了2005年。

英特尔在那一年才笑脸相迎，态度友好，在CPU里面做了一些扩展指令集。

这次重拳，旋转了虚拟化的乾坤。

那一年的年11月，英特尔宣告产品支持硬件虚拟化（VT-x，VT-d），AMD也屁颠跟上，宣告产品支持硬件虚拟化（SVM）。

别看姗姗来迟，但是这套技能也足够硬核党，能做出来也很了不起。

但是英特尔“罪名”也很昭彰——低效。

VMware公司眼疾嘴快，把英特尔一顿猛批。

模拟骆宾王讨伐武则天，出了一篇著名的“檄文”，讨伐英特尔。

责怪支持虚拟化的扩展指令集低效，还没有自己家做的性能好（这里指VMware公司的“二进制翻译”，binary translation）。

责怪别人，趁机夸赞自己，没毛病。

经此一事，也能一窥VMware公司的江湖地位，批评别人，得自己腰杆子倍儿直。

经此一变，虚拟化便有了CPU芯片厂商的全火力支持，仿佛被按下二倍速播放键。

这是虚拟化的短板，第一次被拯救。

那时候，英特尔没有白忙活，蘸着唾沫点钞票，心里乐开了花。
支持Xen，跟支持Linux的道理千篇一律，虚拟化带动了生态，大家都爱用户黏性。

窗外阳光恰好，又是用饭韶光，天上白云飘过，人间没有巨变，云打算悄然巨变。

云打算的第一张门票，亚马逊云抢到了。
云打算的号角一吹响，开源迅速盘踞C位。

Xen底气十足，首席科学官兼剑桥大学打算机实验室教授Ian Pratt说：“微软正处于追赶我们的道路上。
”

此言不虚，微软公司的产品确也深受 Xen的启示。

一韶光，红帽，Sun Microsystems，Suse Linux，到处都有Xen的身影。

一韶光，彷佛任何新事物都会在Xen萌发。

Xen被掌声包围，连云巨子都伸出橄榄枝。
2006年，亚马逊云（EC2）推出第一个采取Xen的实例类型（m1.small）。

Xen登上了第一朵云，自此，成为云打算的新力量。

虚拟化技能烈火烹油，微软公司好不服气。
悄悄收购位于美国波士顿的虚拟化厂商Softricity公司，赶紧公布了，为Windows Server引进新的虚拟机管理产品的韶光表。

“别催了，在买了。
”

后续是微软公司再露土豪本色，为了虚拟化连续多次脱手多家创业公司。

这也从侧面反响了虚拟化这个技能，又小众，又难，又关键，连微软公司也哑巴吃黄连，有苦说不出。

2007年英特尔出了VT-x，增强了很多功能，又反超了VMware公司的二进制翻译技能。

VMware公司内心独白：批评英特尔，草率了。

在2009 年的时候，研究公司Gartner预测，三种技能将主导虚拟化：VMware公司的 ESX Server、Xen 和微软公司的 Viridian hypervisor。

有些技能预（占）测（卜），听一听，别当真。

正面评论大声说，Xen是当时的业界标准之一，非常成熟。

负面评价小声说，Xen的架构非常繁芜，代码链非常长，对内核的改动也比较大。

Xen是一个非常好的项目，但是确实太繁芜。
环球真正搞懂Xen架构的人不超过50人。
大部分人，勾留在仅仅能用这个层次。

再者，Xen还是传统虚拟化技能。

Xen的传统构造，决定了它身上的担子特殊重，要忙于许多事情，保护物理硬件，保护BIOS，虚拟化 CPU，虚拟化存储，虚拟化网络，还有诸多管理功能。

Xen过于笨重，注定退场，但Xen的涌现，为虚拟化打开了开源天下的大门。

梦里几十年，长风几万里，才把虚拟化吹进开源天下。

2014年，同样是开源的KVM来了。

作为Linux的家族成员（以组件的形式涌现），这个轻巧的超级管理程序，身姿轻盈，席卷天下。

这时候，VMware公司的日子也不红火了，闭源商业软件，费钱不说，云厂商改动也未便利。

不要忘却的是，亚马逊云和阿里云的DPU早期架构，都能看到Xen与KVM的身影。

（四）

问世间，是否此山最高，

或者，另有高处比天高。

（手动打节奏：嘿哈！
）

开源社区背后的惨绿少年，藏身于开源江湖，苦练绝技。

十多年前的虚拟化技能，并不成熟。

放眼全天下，做虚拟化技能研究的人，至心不多。

开源社区里最有权力、最受人尊敬的人，有一个统一的称谓，Maintainer（软件掩护者），也是高等别的代码贡献者，掌管开源项目的设计方案，对全局，有深入理解，对未来，也有独到见地。

天下有时候很大，有时候很小。

安东尼，是QEMU的Maintainer。

张献涛，是KVM跨平台支持以及KVM/IA64的作者和Maintainer 。

QEMU曾是天下上压倒一切的系统仿真器和虚拟器。
QEMU支持Xen和KVM，并广泛支配在大多数云环境中。

从Xen到KVM，安东尼和张献涛的技能突飞年夜进，每天冲破天花板。
只要办理性能方面的难题，什么姿势都会。

要知道，那些系统底层，要去办理性能方面的故障或者缺点（Bug），都是非常难的，伸脱手就能扼住全体项目的喉咙，让人动弹不得。

安东尼和张献涛，身上不断涌现“巧合”。

张献涛和安东尼在Xen 和KVM 开源社区都有交集，是享誉社区的极客，令无数开源玩家高山仰止。

经历诸多采访宣布，他们在做自我介绍时，都曾说到一句话：“我一贯做虚拟化方向的事情。
”

同样的话，一个用中文讲出来，一个用英文表达。

只要一有虚拟化安全的新闻热点涌现，国外技能媒体都以采访到安东尼为荣。
张献涛则是海内第一批参与做KVM的。

巧合的背后，每每是一定。

2013年，安东尼，加入亚马逊云。

2014年，张献涛，加入阿里云。

昔日，在虚拟化开源社区，两位最有“势力”的人。

如今，在头部云打算厂商，主导DPU技能变革。

更巧的是，一个卖力Nitro系统，一个卖力神龙系统。

亚马逊云和阿里云的DPU，均汲取了开源虚拟化软件Xen和KVM的精华。

云打算带来了虚拟化技能的繁荣，实现了技能的跃迁。

此时，虚拟化的专家，从硬件厂商的宝贝，变成了云打算厂商、大型互联网公司的宝贝。

35岁就淘汰之类的话，在这些人面前，纯当放了一个臭屁。

所有人都意识到，虚拟化技能“值钱”了，蜂拥而至，可惜，门槛很高。

虚拟化是一门非常难的技能，虚拟机是对真实打算环境的抽象，很多人被“抽象”二字难住。

操作系统内核已是扫地僧级别的技能了，虚拟化则是独孤求败。

张献涛说：“以前，我们认为操作系统内核是最难明得的，也是最繁芜的系统软件。
业界有不少非常资深的内核（kernel）工程师转去做虚拟化，都理解不了，也做不好。
”

为什么呢？

由于虚拟化又抽象了一层，其难度大大增加，要用软件去实现硬件（的功能）。

在云厂商没有虚拟化专家的时期，亚马逊云也找英特尔的人去办理问题。

十几年前，英特尔工程师火线接济云厂商的故事，都快被人遗忘了。

2010年，阿里云准备在5月10日发布产品（ECS1.0）。

那时，有三家企业的工程师挤在阿里云攻坚，攻了一个多月，有人都要把头急秃了，眼看到日子了，还有一个坎，过不去。

大概1000台做事器，运行一晚之后，总会发生一件奇妙的事情，硬盘找不到了。

硬盘也很委曲：“我掉线了。
”

攻坚小组被去世去世逼到了墙角，他们拿出了一个负任务的推断：问题要么出在芯片组身上，要么出在芯片身上。
攻坚小组在嘶吼，得让英特尔派人来，快点。

命悬一线之际，无论英特尔派谁来，都会被人去世盯着，恨不得用秒表计时。

意外的是，英特尔的专家到现场后，看了一下（所有的配置），想了一会，之后说：“改个参数就可以了”。

计时那个人，看了下表，从拿到阿里云的做事器日志到搞定，大约用时3000秒（50分钟）。

这一刻的如释重负，让在场的阿里云工程师一辈子也忘不了。

快拿几条真丝围巾，我们要缠在胳膊上跳广场舞。

这事，让一个外助在阿里云内部，小火了一把。

谁知不久之后，阿里云的章文嵩问了团队一个问题：如果要挖一个虚拟化做得最好的人，该当挖谁？

章文嵩是何人呢？Linux虚拟做事器创始人，开源大神，曾任阿里云CTO，首席科学家。

阿里云的工程师们，双手不离开键盘，头也不用抬，张嘴就有了：张献涛。

不足为奇。

有人见告我：“二零零几年的时候，亚马逊云还没把安东尼搞过去，虚拟化的问题也办理不了，也得靠英特尔。
由于虚拟化的大牛工程师，亚马逊云也缺。
”

亚马逊云，有了安东尼。

阿里云，有了张献涛。

寻隐者不遇，那虚拟化的高手到底在哪？

云深不知处，他们就聚拢在IBM、英特尔、红帽。

灵通人士透露，2008年旁边，英特尔公司上海办公室里，虚拟化团队大概十几号人。
云打算带动虚拟化技能热门之后，全天下都来挖人。

自此，很多虚拟化的人才就留在了美国，直到现在。

人争一口气，佛受一炷喷鼻香。
为什么云厂商会憋着口气一顿猛搞芯片？

答案是：谁痛楚，谁难熬痛苦，谁逼疯，谁知道。

张献涛恳切的语气令人印象深刻：“就算不是神龙团队，阿里云也会有另一支团队把DPU做出来。
”

众所周知，现在云打算厂商的做事器规模有多大。
当规模扩大，用户量增长，对DPU的渴求就变得心切。

几十万台做事器，一每天，嗷嗷待哺。

在安东尼心里，该当也反反复复问过很多遍DPU的实质问题：

“为了得到更好的产品，我们要设计硬件，要设计一个专门用于虚拟化的硬件平台。
不是通用软件，不是通用硬件。
”

回望来路，已无退路，在技能最佳的更迭期，DPU涌现了。
用DPU定制化硬件加速，成为最精确的方向。

（五）

别怪我没提醒，云打算的虚拟化，和前几代虚拟化，大为不同。

前几代产品与DPU隔着一条深不见底的天堑，跳过去，便是通天算夜道。

问题来了，怎么跳？

从2012年开始，亚马逊云团队，尤其是EC2虚拟化就开始思考：

那个叫做Hypervisor的“超级管理员”，得胆子再大一点，能力再强一点。
那么问题来了，世间能做出比纯软件架构更好的超级管理程序吗？

这是我能找到的，安东尼在外媒采访中谈到的，亚马逊云关于DPU思想抽芽最早的韶光点。

但那个时候还没有Nitro的影子。

后来，把Nitro System曝光于公众年夜众面前的，是一次有名的收购案。

被收购的公司叫做Annapurna Labs，也便是安娜普尔纳峰实验室，公司在以色列和美首都设有研发中央。

登山爱好者，瞅这个名字很眼熟。

巧了，喜马拉雅山最高十峰之一，安娜普尔纳峰。

角峰锐利，山体挺立，线条凌厉，冰雪覆盖，云海剧烈翻滚，在向全天下的登山者搔首弄姿：“你过来呀~”

又巧了，公司两位创始人Billy和Nafea也是登山爱好者，以攀登此峰为荣。
虽未抵达，但心已至，他们将角峰设计成LOGO，印在了封装好的芯片上。

登山是个人英雄主义，DPU是团队实干集体主义。

安娜普尔纳峰实验室对付亚马逊云来说，便是上天恩赐的礼物。
海内云厂商一开始有这个好买卖，半夜睡觉都笑醒。

收购这件事情，光有钞票弗成，好的“收购目标”极其罕见。

这家“登山爱好者”公司，除了登山，还有几个绝活。

其一，Graviton芯片，云厂商第一颗Arm芯片。

其二，是一种虚拟机抄近路小好手的技能，ENA。

（ENA，全称是ElasticNetwork Adapter，一种网卡驱动，能用于虚拟机和物理机，是开源项目，发布在GitHub网站上。
）

这种技能讲究的是四两拨千斤，使得虚拟机绕过软件（内核和用户空间网络处理程序），直接操作硬件（网卡），如此这般，提升了网络效率。

昔日寂寂无名的ENA，成为亚马逊云网络虚拟化的关键技能，日后是大名鼎鼎的Nitro的一部分。

互助如丝般顺滑，那就买过来，谁叫那时候天下首富掌管亚马逊公司呢。

2015年，收购价3.5亿美元。

别看当时花了多少，要看日后省了多少。
这是一场险些完美的收购，每年都为亚马逊节省大把美金。

由于DPU的特长之一便是很能打，一套降龙十八掌，打败虚拟化损耗，不在话下。

损耗少了，当然省钱。

安娜普尔纳峰实验室开拓的这张卡，不仅卸载了VPC网络功能，还卸载了EBS 存储网络功能。

这便是前文提到的，“任务卸载”技能。

据网飞公司技能高管（Brendan Gregg）的说法，Nitro的性能损耗非常小（不到1％），Nitro的虚拟化性能靠近裸设备。

亚马逊的文化里，有单向门（The one-way door）和双向门（two-way door）决策的说法。
这个翻译，颇为晦涩。

“单向门”的任务，像电影《鱿鱼游戏》，大抵是干活时被人用枪指着脑袋。

只要任务失落败，就“嘣”一枪。
惊不惊险，刺不刺激。

“双向门”便是这个场景用得不好，搬到别的地方，说不定还能用上，反正不会白忙活，KPI保住了，万事好商量。

DPU是专用的，“专用”意味着，拿到别处“没用”。

Nitro 系统开拓的时候，枪和脑袋的间隔，几毫米。

失落败和成功的间隔，一丢丢。

研发团队在描述困难的开拓岁月的时候，像个文科生，一口气用了四个形容词。

他们说：“这次我们做决定，井井有条，谨慎，缓慢，寻思熟虑。
”

懂行的心里明白，这不是普通的任务，其哀求已经超出了传统虚拟化技能的能力。
由于冲破传统，便是浴火重生。

研发团队在技能博客里写下：“只有创新才行，但我们没有急着拍脑袋。
全体探索的旅程历经五年，仔细、反复试验，每一步都很小心，验证我们提高的方向是精确的。
”

喜大普奔的2013 年，亚马逊云研发团队推出了第一款Nitro 卸载卡（C3 实例类型），将网络进程卸载到硬件中。

马一直蹄的2014 年，将 EBS 存储卸载到硬件中（C4 实例类型），这次研发团队首次与一家名为安娜普尔纳峰实验室的公司互助。

Nitro研发团队谈到了研发的韶光节点：“2017 年，我们卸载了末了的组件，包括掌握面和剩余的 I/O，我们引入了一个新的管理程序，具有 C5 实例类型的完全Nitro系统。
”

代码长什么样子，如今已经记不清了，但工程师依然记住当时的心情：

“这是投入的浪费无度，是身心的殚精竭虑，是承诺的义务必达，是不可思议的时候。
当Nitro系统推出时，五年费力，此生难得。
”

Nitro给亚马逊云带来什么？

Nitro的迭代推动亚马逊云最核心的EC2产品家族不断往更大、更快、更安全、更稳定、更多类型、更高性价比方向演进。

Nitro 系统让亚马逊云有能力供应100 Gbps 增强型以太网网络的云，支持更高吞吐量或受网络限定的事情负载（如 HPC 运用程序）。

借助 Nitro 系统，将虚拟化功能卸载到专用硬件上，将 EC2 的架构分解为更小的块。
这些块以多种不同的办法组装，能够灵巧地设计和快速交付EC2 实例，并供应越来越多的打算、存储、内存和网络选项。

亚马逊云 CTO 沃纳·威格尔（WernerVogels）曾经说过，“在亚马逊云，90%到95%的新项目，都是来自于客户给我们的反馈，剩下的5%也是从客户角度出发所做的创新考试测验。
”

而Nitro 系统正是这种项目之一，它出身于2013年，成熟于2017年，到现在还在不断进化中，2021年已经迭代到第五代。

（六）

最主要的一点，亚马逊云科技的团队看到了，阿里云神龙团队也看到了。

安东尼看到了，张献涛也看到了。

把传统的虚拟化技能直接移到云打算，毛病极其明显，毕竟不是为了云打算的做事器而生的。

把韶光花在最值得思考的问题上。

2016年旁边，张献涛博士，每天都在思考同一个问题：什么样的虚拟化技能，才适宜云打算？

得从根本上办理传统虚拟化运用到数据中央里面存在的毛病（也便是性能、资源、隔离方面所有的问题）。

他脑中的“神龙系统”逐步清晰。

那一年里，张献涛博士密集、低调来回于北京和杭州两地，意在奉劝多位大咖级芯片主架构师加入阿里云。

有这样一句话，很打动人心，日后实现的时候，更激动民气：

“外界无法理解互联网公司要做DPU的决心，这件事情绝对是古人没有做过的，它可以改变云打算里面最核心的技能。
”

神龙芯片给阿里云带来什么技能代价？

张献涛认为，第一，办理CPU和内存完备隔离的问题。
这里的隔离有两个层面意思，一个是安全方面的隔离，一个是性能的隔离。

第二，IO链路上最随意马虎出安全漏洞。
QEMU这个仿照器是从传统的虚拟化带过来的，在神龙芯片第一代的那个韶光点上，它是完完备全过期了。

所谓的过期了，包括两点。
其一，代码是开源的，大家皆可见。
其次，安全漏洞多，常发生一些虚拟机逃逸的情形。

在公共云的天下里，“虚拟机逃逸”五个字，还没有说出口，就有一群人扑上去，捂住你的嘴。

虚拟机逃逸=绝对不许可。

DPU办理了性能，同时也办理了安全方面的问题。

神龙芯片一开始就想好了，多张卡办理问题，强调多合一，多种功能在一张卡上实现，繁芜度低落，稳定性增强。

两架马车，办理的问题一样，实现的思路不同。

佛山无影脚，神龙无影刀。

DPU的一个关键便是，“从哪里切”与“切到何处”，答案充满玄机和禅意。

这让人想起伙头解牛，若要回答：骨在哪，肉在哪，骨肉相连又在哪；

恐怕要稔知全牛构造，全凭手感，刀法在脑海里，在肌肉里。

这还不足，难题在于，每一家云厂商的软件是不一样的。

若何处理分布式存储和分布式网络的软件接口？

哪些该当放在掌握路径？

哪些放在数据路径？

如果不懂虚拟化，你就不知道怎么切，或者切完后性能也不好。

DPU团队表面生气，心里憋闷，谁出的破题？

再或者，有的DPU团队，还没有看到牛在哪里。

DPU这个东西，光有硬件思路，或光有软件思路，一定会出大问题。

当故事讲到这里，虚拟化的知识就不足用了，要细聊张献涛在英特尔的另一段经历。

上海虹桥作为著名的交通枢纽，周边房价，一贯看涨。

2005年的时候，张献涛刚到英特尔演习，人为不高，钱包不鼓，在大虹桥地段找屋子住，选来选去，选了仙霞路附近的茅台路，一个叫做天山五村落的老式小区。

大虹桥的房价，逼得张献涛和师兄合租了一个单间，逼仄的房间里，摆了两张单人床，已经够局促了。
没想到，更局促的在后面。

一进英特尔，张献涛的压力值就爆表了。

为什么？他创造，六年的打算机专业白读了，妈耶，英特尔大牛们说的话，居然听不太懂。
缘故原由是他们讲的那些东西，都牵扯到芯片内部的专业知识。

能主宰一个时期的门派，半导体家当链的顶端，还是有很多秘籍的。

脑袋混沌了几天之后，张献涛那股子不服输的劲儿，上头了。

经高人指示，他冲到藏经阁就找宝典。

《英特尔系统编程手册》（System Development Manual）是这样一种存在，你看第一遍，包你根本看不懂。

照理说，打算机的操作系统，是按此写出来的。
比如，英特尔的64位处理器用的是IA 64，配套的《手册》有好几卷。

《手册》也诚不我欺，卷卷厚如板砖，就不信你能读完。

晚上，师兄睡了，张献涛不敢开大灯，从枕头下面摸出一样东西，手电筒。
于是，咳嗽放屁都在一个被窝里，用手电筒的光，照着看《手册》。

老旧小区的黑瓦和夜色融在一起，楼层里闪烁着零散的光，从窗口的方格里冒出来，张献涛屋里的光，从被子里透出来。

开了头才知道，痛楚是一层套一层的套娃。

逐日不辍的翻读，还要看操作系统的内核代码。
这行代码为什么这么写，他要到编程手册里找答案。
这还不足，要看Linux和Xen的代码。

看不懂怎么办，英特尔还有一个“师兄帮扶”机制，类似学霸红围巾，不懂问师兄。

左手一本软件编程手册，右手一本硬件编程手册，外加Linux内核代码，一行一行去理解。

再看不懂怎么办，去找美国的工程师请教。

张献涛吃一口编程手册，蘸几行Linux内核代码，成为逐日的例行动作。

日复一日，张献涛对CPU、对操作系统的理解，加深加深，再加深。

在英特尔公司，张献涛知道了一个“冷知识”。

任何一颗芯片，从英特尔公司“走”出来之前，内部员工可能提前三到五年就已经拿到了“未出厂的芯片”。

工程师们要把 CPU所有的新功能用软件“用”起来。

说白了，得手的芯片还没有正式量产。
芯片里面会有各种各样的毛病。
你要去理解“问题”来自于软件，还是硬件。

不理解这点，你永久不会疑惑CPU会出问题。

DPU的技能领袖，须要对芯片、对芯片组、对PCIe总线、对操作系统、对虚拟化的理解，到达一种境界，关灯取物，犹如开灯取物一样自若。

看似行云流水的判断，是在日复一日、年复一年、无声无息中形成的，就像火山爆发后，热风里从早到晚飘落的火山灰，把统统技能难点都掩埋。

从火山灰中醒来，看到一个重塑的新天下。

DPU的支配，无异于完成了给高速飞驰的列车换防风材料，给深海作业的潜艇换防水材料。

2017年到2021年，亚马逊云和阿里云均已跑步进入了DPU产品迭代良性循环的新天下。

2021年的夏天，张献涛博士对我说：“以前，没有人相信互联网公司须要芯片技能。
现在，大家都相信了。
”

（七）

裁判一声长哨，男主持人富有磁性的声音播报：不雅观众朋友们，这里是数据中央赛场，IaaS层终场，云打算根本举动步伐末了一场比赛。

当精良DPU问世的时候，海内云打算厂商在IaaS层，这轮的战斗，发布结束了。

自研出DPU的云打算厂商说：“我摊牌了，我赢了。
”

哪怕五年前，放眼找事情的网站，就算云打算厂商“放出”招芯片专家的岗位，谁敢去？去干啥？再资深的HR一看岗位解释，都懵了，就没打仗过搞芯片的人。

软件开拓周期何其快，硬件开拓周期何其慢。
旁人都说，这恋情看上去就不长久。

老牌芯片公司一扭头，眼角余光里都是质（鄙）疑（视）。

云厂商只善于软件，如何面对芯片?

云厂商面对的场景极其繁芜，用芯片怎么搞定？

谁出的题，这么难。

问题是繁芜中的繁芜，需求是刚需中的刚需。

很抱歉文章科普得迟了，DPU是一种云上做事器的专用芯片。

这句话，有两个关键词，“云上做事器”和“专用芯片”。

先讲，云上做事器。

云上做事器有些像公共澡堂，可以一个人用，也可以多人共用，麻烦都是“一起用”带来的。

公共澡堂“一起用”，最好有隔板。
我看你，你看我，这样不文（安）明（全）。

适口可乐和百事可乐要在一朵云上，还能相互看文件，立马就翻脸了，肥皂也不捡了。

那怎么办？

答案是：得插DPU，而且是每台做事器都得插。
十万台做事器，插十万张DPU。
杀毒软件是用软件保护安全，DPU的浸染之一是用硬件保护安全。

说到安全，硬件比软件更能打，这个就不赘述了。

再讲，专用芯片。

提到专用芯片，挖矿炒币赚到钱的人愉快了，抢着说：“我最行家。
”由于不同的加密货币，要不同的矿机。
矿机越对口，挖币越赢利。

金钱的铜臭味，见告我们：专门的事情，让专门的芯片去做。

现在还有争议，但是未来，会看得清楚，DPU是云打算的标配。

摩尔和登纳德两位先生长西席，无情指出“现实之无奈”，CPU成了最昂贵的“打工人”。

以是，DPU作为专用硬件，除了安全，还要来给CPU减负。

几条街之外，都能听见DPU的唠叨：“哎呦，CPU我的祖宗，快放下，您哪敢动这，可不能把资源摧残浪费蹂躏在网络和存储的负载上。
”

CPU则说：救救孩子吧。
我太南了。

（CPU大声呼救的缘故原由是：CPU既要处理大量的上层运用，又要坚持底层软件的根本举动步伐，还要处理各种分外的IO类协议，不堪重负。
）

把“包袱”从CPU上卸载下来，DPU将有望成为承接这些“包袱”的代表性芯片。

CPU也很高兴DPU的涌现，你行，你上呀。

的确，有人夸DPU是继CPU和GPU之后的“第三颗”主力芯片。

不要由于鲜花和掌声太多，就对DPU的能力有什么误会。

CPU稳坐“主咖”宝座，CPU可以当DPU用，CPU也可以当GPU用，但是反过来不成立。

DPU的事情CPU能做，但是，CPU比DPU昂贵老多了。
牛刀太贵，杀鸡的人自然不舍得。

云厂商想实现“一起沐浴（一起用）”，得靠虚拟化技能。
虚拟化虽好，但是会引发一堆“糟苦处儿”，比如性能损耗，乃至有人把这种损耗比喻成“交税”，搞不定当然多交税。

这种损耗也相称于，还没有开始沐浴，一半水在水管里就摧残浪费蹂躏光了，肥皂沫都没有来得及冲掉。

技能问题越难，极客们越愉快，不自觉扬起了手里的小皮鞭。

虚拟化是DPU的精髓，虚拟化的历史险些和打算机一样悠久，是打算机科学史上最伟大的思想之一，造就了伟大的云打算技能和市场。

“制造假象”“隐蔽细节”（给上层运用供应一种假象，降落上层运用利用下层资源的繁芜度）。

我们每天在用的操作系统，也是一种虚拟化的“思想”，是对硬件资源的虚拟化。

PC机的虚拟化，把打算的核心“变成”进程。
把存储介质“变成”文件系统。

云打算的硝烟战火中，虚拟化这个喷涂了迷彩伪装的弹药库，终于藏不住了。

（八）

说它低调，谁料想，DPU直接冲破了次元壁，在弹幕里打出“火钳刘明”。

有人造出来DPU的时候，DPU还没火，它们便是，阿里云的“神龙芯片”，亚马逊云的“NitroSystem”。

两者，都精良。

不仅造出来了，还规模化用起来了。

不仅规模化了，在云的场景中收益还巨大了。

阿里云在海内云打算厂商技能团队里是最拔尖的。

亚马逊云在技能上从来没让人失落望过（公关广告投入就另说了）。

他们造DPU的团队，犹如年夜军过江，天翻地覆慨而慷。

自此，云厂商分成两列纵队：有DPU的，没有DPU的。

中国男足，笑而不语，大比分掉队，说的便是那些没有DPU的云厂商。

亚马逊云和阿里云都是革命者，且心有灵犀，选了相同的技能方向。

云灿霞铺，同是天涯得意人。

亚马逊云的SA是办理方案架构师（SolutionsArchitect），很能打，一言不合就秀（show）代码，切实其实大家都匹敌创业公司CTO。

一位SA私下里见告我：“大略来讲，DPU就相称于是把虚拟化不同的事情负载，下放到不同的卡上。
”

留神“下放”这动词，得体会了一阵子，才想通。
这个词，用得妙啊，它背后的专业术语是“任务卸载”。

“Nitro是一张卡，把负载（Hypervisor虚拟层，存储，网络）都绑上去。
也便是把影响虚拟化安全、性能、稳定性的那些东西都装进板卡里去。
”

“它不是一张卡，是一套卡。
每张卡片有不同的目标。
”

“Nitro System之以是称为是一个别系，它包含三个独立的部分：Nitro 卡、Nitro 安全芯片和Nitro 管理程序。

以前嘴馋，必须自己会烧两个小菜，但是，现成的API准备好了。

不仅会烧菜，还会自主异菜。

学（搞）烧（创）菜（新），没那么难。

由于Nitro系统是一个“根本组件盒子”，有许多不同的组装办法，从而使AWS能够灵巧设计和快速交付（EC2实例类型），打算、存储、内存和网络都可以成为组合的选项。

选择困难症患者看到后，赶紧喝了一口咖啡，压压惊。

亚马逊云员工也谈到，这种做法能够将云打算微做事架构扩展到硬件，方便“创新API”。

2017年的时候，爱看热闹的人，围不雅观神龙MOC卡，但，切切没有想到，围不雅观的便是DPU。

一位阿里云异构打算团队的员工私下里见告我：“MOC可以理解为一台小做事器。
物如其名，卡上微系统（Micro-servicer On Chip）。
但是，2021年，我们对外口径统一用神龙芯片，不叫MOC卡。
”

阿里云员工还说：“对付神龙芯片的细节，公司希望对外少谈。
有不少人，在打听。
”

2021年10月20日，神龙推出第四代，江湖人称神龙4.0。

比起第三代神龙，关键性能指标提升了多少呢？

说两个关键的，网络关键性能指标提升一倍以上，存储关键性能指标提升两倍。

神龙4.0环球首次搭载大规模弹性RDMA高性能网络，网络延迟整体大幅降落。

RDMA作为网络通信技能，不是一个新技能，但是，阿里云弹性RDMA，让RDMA这项技能，从高性能打算（HPC）这个小众领域，走向公有云。

曾经RDMA大规模组网的能力，是全体业界都办理不了的问题。

弹性RDMA将对云原生微做事、无做事打算运用的性能提升大有帮助，乃至是Java 中用Netty 网络编程框架的运用程序，都会从中受益。

2021年的秋日，张献涛对我说：“神龙芯片是目前业界最出色的DPU，没有之一。
”

DPU要才华有才华，要颜值有颜值，但是还有“两大怪”。

一大怪，亚马逊云和阿里云的DPU，不外卖。

DPU作为专用芯片，不要你懂，只要自己懂自己。

另一大怪，不少云打算厂商，一提自研DPU，就说拜拜。

何况青云和UCloud上市了，也都在亏损。

更何况，造DPU，怎么着，得拍出三个亿公民币来。

（九）

村落口的土墙上，刷上了白底红漆的广告语：

DPU，早拥有，早致富。

DPU，保安全。

DPU，隔离好。

DPU，省大钱。

一定得用，又没钱自研，可以用英伟达的DPU呀。
2020年，英伟达69亿美金收购Mellanox，剑指DPU。

可惜不是“相机行事”，用起来不称手，很痛楚。
有专家绝不留情地批评，对英伟达现有的feature（功能），都不满意。

树上叶子，绿了又黄，云打算厂商给博通公司提交的工单，在排队。

北风吹来，枝头秃秃，工单仍在排队。

阿里云和亚马逊云的DPU都是2017年发布的。

事隔多年，有没有哪家云厂商跟上了？

众人摇头，鸦雀无声。

亚马逊云和阿里云则可能会说：“体谅我，没忍住，笑出了声”。

非公开产品市场，急需“灵通人士”。

巧了，有一家著名的海内云厂商，跑到客户那里宣（吹）传（牛），DPU不便是智能网卡嘛，我厂2012年就有了，比神龙和Nitro快多了。

懂行的客户发出灵魂一问，瞬间“社去世”现场。

“你家DPU果真如此，那你为什么不用？”

吹牛牛逼症，涌现人传人的征象了吗？

又巧了，笑傲江湖的转身，余下的DPU产品，要么勾留在“并不怎么好用”的水平上。

要么只摸索着做了个原型出来，勾留在验证观点（Proof of concept）的水平上。

中国男足，笑了笑说，抱歉，打不开局势。

球迷火了：“花了这么多钱，你想说重在参与？”

太巧了，有人见告“亲爱的数据”，多家公司暗地里派出员工，每天找阿里云的人套话，这个为啥这样做，那个接口为什么这么设计。

芯片的水很深，总会从供应链拿到一些“内部”，还有一家云厂商抄了好几年，像素级别地抄，也没有抄出个像样的。

更糟糕的是，规模越做越大，快撑不下去了。

那些有DPU的云厂商，热升级，多Happy，迭代速率嗖嗖滴。

那些没有DPU的云厂商，可惨了，听说个中一家，得一个月重启一次做事器。

（曾以为重启仅仅是文科生的常用操作，别问我怎么知道的。
）

DPU是朋友圈凡尔赛的神器。

云厂商发朋友圈，祝友商早日建成天下一流DPU。

意识到友商已经建成天下一流DPU，默默删掉上一条朋友圈。

Fungible公司在朋友圈写下，2019年，我们定义了DPU。

楼下评论：“公司挺值钱，软银愿景基金大手笔投了。
”

可惜，产品做得一样平常，对云打算的理解不到位，无法向其评论竖大拇指。

英特尔坐不住了，发布了IPU根本举动步伐处理器，来表达对“DPU”这件事情不同的意见。

希望朋友圈得到高赞。

云厂商楼下依次排队点赞，但内心唏嘘不已，DPU的天下，英特尔也不能一声令下“一统江湖”了。

（十）

投资DPU，至少有两个“不投”。

一不投，那些不熟习云业务的需求的团队。

二不投，那些对软硬件领悟部分理解得比较粗浅的团队。

可惜，投资DPU这潭水，没有水最混，只有水更混。

DPU身上有两桩著名的冤案。
在没有DPU之前，SmartNIC（一种智能网卡）先一步问世，给网络减负。

第一印象最深刻。
以是，有些人至今误认为，DPU便是SmartNIC。

SmartNIC是对网络进行加速，但办理的问题比DPU小多了。

这时候，ETC自动抬杠机（精）上线了：“你就回答我，DPU最基本的功能是不是一张网卡?”

哪怕是公民群众，都对新闻里的“5G”“千兆光纤”耳熟，更别说工业互联网、车联网。

对网络的哀求越来越高了，云打算的网络带宽从主流的10Gbps，闭着眼睛，就朝着100 Gbps一起狂奔。

可惜的是，DPU虽然能给网络帮上忙，但不是智能网卡。

当一个产品已有翻天覆地的变革，我们不妨叫它的新名字。

遗憾的是，沿着智能网卡的道路独行其是，永久也到达不了DPU的绿洲。

不过，在“2021年智能网卡峰会”上大谈特谈DPU，也是特定时期的特色。

所有误解，皆是云烟。

“智能网卡是不是DPU的必经之路？先一步造智能网卡，做踏实了再做DPU这种思路，您怎么样理解？”

电子工业出版社出版的《软硬件领悟：超大规模云打算架构创新之路》一书的作者，原UCloud（优刻得）云打算厂商芯片及硬件研发卖力人黄朝波这样认为：

“站在功能的层次，肯定是从简入繁的过程，这个说法是对的。
”

迁移转变之后，每每是重点。

“站在实现的角度，这个说法，值得商榷。
智能网卡的路子，每每随着英伟达（NVIDIA）的做法，先NIC，再SmartNIC，再SOC。
网络功能的实现，是定制ASIC（专用集成芯片）。
然而，亚马逊云和阿里云‘没走平凡路’。
从一开始，就只有CPU来实现，再逐步加入各种加速。
总之，这条DPU的演进之路是，从CPU到DPU。
”

正如前文所述，亚马逊云和阿里云是相同的技能方向，走法却不同。

你品，你细品：英伟达的技能路线是从定制加速，到通用。
这和亚马逊云和阿里云那种，从通用到加入定制，完备是两个相反的技能演进方向。

另一个冤案，是按字面意思理解DPU。

果真不能仅看表面。

DPU的全名，叫DataProcessing Unit，是数据处理器。
自赛博开天辟地，就有数据。

CPU不能处理数据吗？GPU不能吗？既然不是，那凭啥就你叫数据处理。

CPU和GPU攥紧了拳头，强忍着扇耳光子的冲动嚷嚷：“本日，谁来都不好使。
”

更别说，《数据安全法》砸得门板咚咚直响：“临时检讨，听说，你们这里有数据，还是底层数据？”

这样下去，保安拉起黄色鉴戒带，场面恐怕要失落控。

冤案粉饰了难点。

DPU是软件定义硬件，是用硬件适配软件做加速，想懂DPU，要懂很多东西：芯片，系统软件，打算机体系构造，云打算做事，虚拟化。

两个云厂商的成功故事，也淡化了难点。