作者|鲍永刚
编辑|王亚峰
“2021年的一段时间,十几个投资人好像听到了一个召唤,密集找到我,希望我创业做DPU芯片。”一位行业巨头说,“我拒绝了所有这些邀请,并告诉来找我的投资者,DPU不是一个值得资本蜂拥而至的赛道。”
于是那些犹豫不决、拿不定主意的投资者果断放弃了充满未知的DPU赛道。在他们眼里,投资DPU,无论是风险指数还是认知门槛,都超出了他们的控制范围。
而一些真正懂行的筹码六先生也对DPU的未来充满悲观。他们认为:“大多数DPU初创公司要么会死掉,要么被公共云巨头收购。"
甚至一些看好DPU的技术专家也预测DPU创业公司至少会死掉90%。
一位投资人笑着说,“按照目前的情况,在2024年第一代产品出来之前,DPU创业公司的壁垒来自人民币。DPU公司烧钱很快。钱多的可以多撑几年,钱不多的今年可能会出现财务问题。”
DPU没有统一的标准,需要与云计算基础设施紧密绑定,产品的通用性,没有明确的大客户。这些都是DPU不看好其创业精神的合理原因。
镜子的另一面。那些有明确目标和赌徒心态的风投们,对数据中心对DPU需求的确定性是坚定乐观的。他们花大价钱争夺高质量的DPU项目,并相信DPU这个深坑是可以用金钱和时间挖出来的。
从更长远的角度来看DPU目前面临的挑战,似乎没有解决办法。
“短期来看,DPU确实面临着巨大的挑战。但是,经过几代迭代,在完全由软件定义硬件的转折点之后,总有一家DPU公司。”拥有20多年芯片行业经验的Winnie说道。
对于吃螃蟹的人来说,试错的成本不高,但是错过的成本极高。面对新事物,有时候需要先行动再思考的勇气。
“我们原本想一举拿下两家被业界看好的DPU公司。即使在投资初期,竞争也很激烈,最后所有的努力都是为了只投资一家公司。”投资DPU创业公司的投资经理杰克是这样描述这种情况的。
同样投资过DPU的另一位投资人艾伦认为,“DPU的火热融资说明市场的不确定性已经解决,接下来这个轨道上会出现几只独角兽。”
DPU投资热的象征性信号是云豹智能,该公司已连续三次获得腾讯投资。成立不到两年,6月完成新一轮融资,估值达到90亿元,成为国内DPU创业赛道第一独角兽。
一边是冰,一边是火。
DPU创业,被两种价值观拉着走,是不是走错了方向?还是在黄金赛道上奔跑?
外敌入侵:最大需求方,不要买DPU
DPU创业公司的产品应该卖给谁?他们设想的目标市场几乎都是云计算。
但是使用DPU的云计算巨头已经开始自给自足了。
在这种交易环境下,就连Nvidia这样的芯片巨头也纷纷在DPU碰壁。
“需求确实存在,但DPU解决方案在市场上的表现能否满足云制造商的需求还是个问号。换个角度说,即使能满足,也不一定能被第三方创业公司满足。”业内人士向Leifeng.com表达了他们的感受。
目前,亚马逊云和阿里云已经拥有基于自研DPU的系统,而谷歌云则与英特尔合作开发IPU。百度云、字节跳动云和腾讯云也在开发自己的DPU。
大公司往往对真正的技术需求最敏感。
“当公有云厂商要管理遍布全球的数百万台服务器,数据密集型计算越来越多的时候,传统的以CPU为中心的计算架构已经无法适应这种趋势。”云计算专家李明(化名)告诉Leifeng.com,“因此,超大型数据中心需要新的处理器来提高云计算系统的效率。”
2013年,在虚拟化开源社区颇有名气的极客安东尼(Anthony)加入AWS。2014年,另一位让虚拟化开源玩家仰望的大神张显涛加盟阿里云。
虚拟化领域的两位关键人物加入两家公有云公司后,开始尝试通过软硬件的整合来解决大规模云计算面临的虚拟化资源损耗、大量数据剪刀差、延迟等问题。
在这些现实需求下,DPU的原型诞生了。
它诞生于初创公司Fungible之手,成名于英伟达CEO黄仁勋之口。
2019年,英伟达斥资69亿美元收购Mellanox,这是当时英伟达历史上最大的一笔收购。收购后,英伟达很快在Mellanox的成就基础上,在2020年推出了两款dpu。
黄仁勋在发布DPU时表示,当前的数据中心是由软件定义的,这使得数据中心更加灵活,但也造成了巨大的负担。数据中心基础设施的运行消耗20%-30%的CPU内核,因此需要一种新的处理器—— DPU。
英伟达的DPU概念迅速火了起来,也成为了提供DPU的行业标杆,但却没能迅速获得大量订单。
“英伟达的第一代BlueField DPU几乎没有客户。到了第二代,我判断不太可能有人买单。到了第三代,性能参数看起来很棒,应该会吸引一些云厂商。”李明说。
“设计一个DPU,如果不了解软件和业务需求,很容易把一个DPU做成一个大而全的产品,但即便如此,也很难做出一个通用的DPU。"
李明的经验表明在一些极简场景下,参数强大的DPU是可以发挥作用的,但是云计算是一个复杂的系统,与软件并没有完全融合。似乎其强大的性能很难发挥出来,实际场景下的性能可能不到宣称性能的25%,这使得其难以在软硬件架构独特的云计算系统中大规模应用。
几位芯片专家证实:“英伟达前两代DPU几乎用不上。”面对这一挑战,英伟达在迭代DPU的过程中,与云厂商进行了大量的深入沟通。但是深入的交流并不能完全了解云计算厂商的需求,这也导致英伟达DPU只有很少一部分客户,没有标杆客户。
在英伟达加速DPU迭代的时候,AWS的Nitro系统和阿里云神龙架构的高级产品CIPU(Cloud infra structure Processing Units)已经在各自的系统中显示出优势。
但以Nvidia为代表的DPU提供商所面临的挑战,除了Nitro和CIPU是系统级优化,而不仅仅是硬件加速,还有难以破解的稳定性问题。
李明指出,“当出现问题时,如果是购买的DPU,您必须首先排除不是软件问题,然后才能联系芯片提供商进一步解决问题。这样不仅会拉长解题周期,还会为了解决一个问题而产生八个新问题。另外购买的DPU是黑盒,很难满足迭代的软件需求。"
但是云计算巨头和大多数公司不一样。拥有丰富通信和HPC领域经验的边缘智芯首席架构师李富表示:“大云计算公司的IT成本占比非常高,对数据和基础设施的控制非常严格。考虑到数据中心架构变化等因素,头部厂商肯定会自己研究DPU;然而,在大多数企业市场,IT建设的成本不到公司支出的10%,对基础设施的需求转向了软件定义和稳定性,交付趋向于集成,因此企业市场将是DPU和数据芯片的核心机会。"
“Broadcom收购VMware是为了进一步巩固其在该领域的领先地位。然后可能是HCI收购DPU。”李伟判断。
投资人艾伦表示,“我们在DPU投资的时候,还没有DPU的概念,但是我们判断数据中心的流量在增加,我们需要智能网卡来缓解数据中心的压力。况且我们当时看好创始团队,所以毫不犹豫地投资了。”
投资人杰克认为,“对DPU的需求确实存在,公共和私人市场都足够巨大。我们相信一些DPU公司能够生存下来,当然这需要时间来证明。”
内忧:DPU的产业之争
一开始,没有DPU的概念。DPU概念大热之后,主动或被动隶属于DPU的创业公司也直接导致了虽然都可以称为DPU芯片,但技术路线并不相同,差异自然不可避免。
有DPU将军吗?
在国内外,DPU创业公司都受到资本的青睐,其核心创始团队几乎都有网络芯片经验丰富的成员,来自博通、思科、华为、中兴等业内知名公司。
比如国内被投资人高度看重的星云智联核心团队,就是前华为既定团队离职创业。鲍云的智能核心团队有多名前博通员工,以及阿里云神龙团队成员。
Winnie解释说,当数据中心的网卡在25G以下时,不需要SmartNIC,CPU足以解决所有问题。但随着网卡升级到25G及以上,CPU很难处理这么大的流量。
李富认为:“随着数据中心网卡向100G演进,DPU做的最多的工作应该是分流进入数据中心的流量,包括流量中断、管理、路径优化。我认为DPU应该是一个总线芯片。但问题是,如果DPU要更换网卡,怎么可能比网卡便宜?”
"我只能祝他们好运,作为一个有智能网卡想法的DPU人创业。”李明认为,“抱着卸载智能网卡的想法做DPU,实际上是在不清楚病因的情况下就开始开药。DPU不仅仅是卸载,更重要的是软硬件的整合可以提高云计算系统的效率。”
温妮的观点是,“DPU和智能网卡的核心区别是定价。既然DPU更贵,自然要做更多的事情,产品形态也从分立形态变成了集成SoC。英特尔提出的IPU概念符合云服务提供商的需求。在IPU的帮助下,云服务提供商可以将自己的运营管理软件从租户的应用软件中分离出来,将网络、安全、存储、管理等服务卸载到DPU。它们不再需要依赖CPU,可以同时提高虚拟化、存储和安全性的性能。云服务提供商可以成为超级用户。”
“现在最大的问题之一是,DPU没有一个行业共识,也没有任何组织在推动它。”李伟认为。
“业界对DPU芯片架构的理解趋于一致,需要四大子系统:通用CPU子系统、可编程快速数据平面、NVMe/RDMA/安全/压缩等加速引擎,加上高速IO和存储接口子系统。”温妮认为。
这就引出了一个业内颇有争议的话题。有DPU将军吗?
“如果从DPU的角度来看云计算的管理,我们应该熟悉云计算的分布式系统,它将成为一个应用驱动的芯片。我认为应用驱动的DPU没有前途,但是网络路径规划的想法有很大的机会。”莉芙说道。
多位支持李富观点的芯片行业资深人士也表示,DPU是底层基础设施,不会呈现给开发者,所以DPU和云计算基础设施是紧密捆绑在一起的,而各大云计算巨头的基础设施,经过多年的发展,软硬件的开发各有侧重,这意味着很难有通用的DPU芯片,芯片不能。
还有业内资深人士质疑,所谓的通用DPU是DPU还是更大的CPU?为什么通用DPU 70%到80%的员工负责软件适配?
温妮认为这也是合理的。"一开始,对DPU来说最重要的是能够使用它,所以比赛实际上是理解和部署软件。这时候DPU提供商必须适应云服务商的软件和要求,但是经过不断迭代,当硬件成本低到一定程度,比如从2000元到200元,风向就会逆转。
“根据以往的经验,市场要么选择一个大而全的产品利用其功能和性能优势,要么选择一个功能一般但价格特殊的产品利用其成本优势。”温妮进一步说道。
显然,在2022年,当DPU没有统一标准时,行业正处于使用DPU的阶段。这个时候需要的是硬件适配软件,也是各种技术路线争鸣的时候。
技术路线之争,以及高估值之忧
纵观DPU的创业公司,它们可以分为三类。一类是传统芯片公司的思路,就是自下而上加速,也就是做一个大而全的硬件,然后搭建上层软件加速业务,比如云豹智能。另一种是云巨头的思路是自上而下的,从业务和需求出发,用软件推动底层硬件创新,比如大禹智信。另一类是网络切入,需要业务卸载和隔离来加速。
有意思的是,即使是做网络DPU,在具体技术路径的选择上也是有差异的。一个创业者评价同行,用网络的方法解决问题是对的,但是他们选择的技术是错的。
不同路径的创业者之间的差异更加明显。一些致力于提供通用DPU的企业家表示,他们竞争对手的产品表明他们不了解云计算的需求以及他们如何才能成功。
从芯片从业者转向投资领域的翁唐珂认为,“我对DPU这种创业方式评价不高。这些创业公司在没有明确客户的情况下创业,大部分dpu采用先进的流程,成本很高。而且这类芯片更大的投入是对后续应用场景RD和生态建设的投入。如果没有大客户的明确需求作为支撑,这种投资在欧美的巨头竞争面前就像一个黑洞,需要非常强大的融资能力才能源源不断地为投资提供资金。”
"在没有明确业务,没有软件系统的前提下,定义一个硬件。这种创业的可靠性可想而知。”一位业内专家直言。
你知道,英特尔的IPU正在与谷歌云合作。“没有明确的关键客户,英特尔IPU的项目就无法启动。”温妮认为。
当然,这反过来也可以解释腾讯投资的云豹智能率先成为独角兽,百度、美团投资的星云智联也更受投资人青睐。“这两家公司有更明确的客户,投资者也更敢于投资。”很多业内人士也持相同观点。
同样确定的是中国科技的数量。“中科杜愚的产品可能是通用的,但它有明确的应用场景。金融等场景的客户也愿意为超低延迟的DPU买单。这个市场可能没那么大,但也解决不了生存问题。”看好中科玉树的投资人和业内专家表示。
李富说:“我想成为DPU将军,但是背后投资者的标签太明显了。我该怎么办?但是没有标签,人家不敢做。它看起来像一个无限循环。”
创想投资的投资总监刘研究和接触了一些公司,最终放弃投资公司,他说,“DPU创业公司的起点是5-6亿元,大部分芯片验证会在2024-2025年进行。面对目前几条未确定的技术路线,我们很难在目前这个赛道异常火爆的背景下平衡估值和公司实际价值的关系,最终没能投资到DPU公司。”
"DPU公司的估值消化确实是个问题。“一些投资者也对DPU的高估值表示了担忧。
无论是资本的乐观与犹豫,还是创业公司之间的相互怀疑,都无法掩盖DPU预示着数据中心架构变革的事实。
数据中心架构不可阻挡的变革
“云计算是基于传统的IT架构,但是现在传统的IT硬件和软件已经不能满足云计算的需求。这时候就需要对传统的硬件和软件进行创新。”李明认为,“/s2/]云计算将重构传统IT行业。"
这个判断也可以解释DPU的火热内核。
今年阿里云发布CIPU的时候,就给出了明确的判断,CIPU将成为云计算3.0时代的核心。
现在的数据中心架构都是以CPU为核心。随着DPU的出现,CPU不再是中心,云计算提供商可以成为超级用户。通过DPU,可以管理数据中心的计算、网络和存储,提高效率。这个变化是革命性的。
用一个形象的比喻来解释传统数据中心和云服务提供商的数据中心架构的区别。传统的数据中心就像一个家庭场景。客厅、厨房、餐厅都在一个很大的区域,有明确的主人(即CPU)。云服务提供商的数据中心就像一个酒店。房间和餐厅是分开的,酒店客人和员工也是分开的。数据中心运营商可以在DPU的帮助下更高效地管理酒店,CPU只为客人服务。
这意味着在阿里云和AWS数据中心,CPU、GPU、存储、网络等资源都将成为CIPU和Nitro的外设。服务器中主板的设计也会发生变化。雷锋。com了解到,阿里神龙服务器虽然外观和传统服务器一样,但实际的主板设计和内部组件的连接方式都发生了变化。
“DPU进入数据中心,不仅可以帮助云计算提供商解决已知的问题,还可以解决未来很多麻烦的事情。”温妮这样判断。
李富认为,“这种架构的改变,可以让云服务商有更大的话语权,与有实力的芯片商谈判,获得更多的CPU折扣。”
然而,在云计算头部公司工作的RD员工赵明(化名)认为“/s2/]DPU不可能完全取代CPU,因此云计算服务商不一定能获得业务优势,但他们可以对CPU厂商提出更多要求,最终为云计算提供商提高性价比。”
尽管业界普遍认为,云计算巨头自上而下的DPU比初创企业自下而上的DPU更有可能成功,但是,数据中心架构的改变已经成为确定的事实。
DPU的话题不仅仅是创业的成败,它的发展有更多的话题可以讨论。如果你对DPU感兴趣,或者是从业者,欢迎添加文章作者微信BENSONEIT ,让我们有更深入的交流。