探討一下英偉達(dá)的DPU(Data Processing Unit，數(shù)據(jù)處理器)很有必要，可以說(shuō)，它代表著數(shù)據(jù)中心一個(gè)新方向。這個(gè)賽道也吸引了一些初創(chuàng)企業(yè)，他們只要解決了數(shù)據(jù)中心基礎(chǔ)設(shè)施的系統(tǒng)性能、吞吐量、效率、總擁有成本等各種問題，也有望在細(xì)分應(yīng)用領(lǐng)域和巨頭掰一掰手腕。

 

 

 

在第一波云端算力暴漲的發(fā)展中，GPU是當(dāng)仁不讓的王者，各種針對(duì)深度學(xué)習(xí)等工作負(fù)載打造的專用AI芯片也迎來(lái)大發(fā)展。我們以為英偉達(dá)在數(shù)據(jù)中心到達(dá)頂峰的時(shí)候，他正在尋求第二引擎，以此迎來(lái)第二波的高成長(zhǎng)。

 

這背后的邏輯是，通信和計(jì)算就好比數(shù)據(jù)中心基礎(chǔ)設(shè)施的硬幣兩面，如果一直提升算力，但是通信基礎(chǔ)設(shè)施跟不上，整體系統(tǒng)性能還是受限，永遠(yuǎn)無(wú)法發(fā)揮出真正的潛能。從數(shù)據(jù)中心長(zhǎng)期的迭代方向來(lái)看，光網(wǎng)絡(luò)的鋪設(shè)、通信的密度、底層算力的生態(tài)設(shè)施建設(shè)等，都在逐漸升級(jí)的過程中。帶寬不斷提升，將有更大的數(shù)據(jù)量涌入，數(shù)據(jù)的處理將會(huì)越來(lái)越復(fù)雜，包括網(wǎng)絡(luò)協(xié)議處理、存儲(chǔ)壓縮、數(shù)據(jù)加密等，這些本不是CPU和GPU擅長(zhǎng)的領(lǐng)域，該由誰(shuí)來(lái)處理?

 

DPU的提出背景就是應(yīng)對(duì)這些數(shù)據(jù)量和復(fù)雜性的指數(shù)級(jí)增長(zhǎng)，未來(lái)，需要將計(jì)算移動(dòng)到接近數(shù)據(jù)的位置，這是業(yè)界所公認(rèn)的以數(shù)據(jù)為中心的體系結(jié)構(gòu)下的創(chuàng)新，而非傳統(tǒng)的將數(shù)據(jù)移動(dòng)到計(jì)算所在位置再做處理的方式。

 

這種產(chǎn)品思路在國(guó)內(nèi)外云服務(wù)廠商的路線中已見端倪。AWS將“還未運(yùn)行業(yè)務(wù)程序，先接入網(wǎng)絡(luò)數(shù)據(jù)就要占去的計(jì)算資源”稱作“Datacenter Tax”。僅以10G網(wǎng)絡(luò)的數(shù)據(jù)包處理一項(xiàng)工作來(lái)看，它大約要占一個(gè)8核高端CPU的一半算力，如果是升級(jí)到40G、100G的高速網(wǎng)絡(luò)，這方面的開銷將會(huì)更大。因此，AWS 的Nitro產(chǎn)品大膽地將原本在通用CPU上運(yùn)行的虛擬化管理程序，運(yùn)行在專有硬件上。同樣思路的還有阿里云的神龍架構(gòu)，官方說(shuō)明中提到“通過I/O offload芯片加速，高效調(diào)度和自動(dòng)化彈性伸縮的容器化產(chǎn)品，可幫助用戶降低50%的計(jì)算成本”。沿著這一思路，讓專有硬件來(lái)做offload，把許多原本需要系統(tǒng)調(diào)用、內(nèi)核操作的工作繞開CPU，通過專有硬件實(shí)現(xiàn)。這樣一來(lái)，用戶所購(gòu)買的計(jì)算資源(CPU和內(nèi)存等)就變得更足量，性價(jià)比也得到大幅提升。

 

從業(yè)界當(dāng)前發(fā)展DPU的思路來(lái)看，它作為一個(gè)可編程處理器，運(yùn)行的都是非應(yīng)用型負(fù)載，從而可以讓服務(wù)器CPU資源更好地服務(wù)應(yīng)用負(fù)載。一言以蔽之，DPU對(duì)數(shù)據(jù)中心來(lái)說(shuō)，是通過更明細(xì)的分工，實(shí)現(xiàn)效率的提升，實(shí)現(xiàn)總體系統(tǒng)的Cost-down。一個(gè)能夠Cost-Down的產(chǎn)品，會(huì)有什么理由沒有市場(chǎng)呢?

 

英偉達(dá)也正是看中了這一點(diǎn)。GPU算力增加再兇猛，但是以現(xiàn)有x86體系中的CPU內(nèi)存和PCIe帶寬來(lái)看，整體系統(tǒng)性能還是難以起飛。為此，英偉達(dá)推出了首款專為TB級(jí)加速計(jì)算而設(shè)計(jì)的CPU Grace，以及專為現(xiàn)代超大規(guī)模云技術(shù)基礎(chǔ)架構(gòu)而生的DPU BlueField-3。至此，英偉達(dá)的數(shù)據(jù)中心路線圖煥然新生，CPU、GPU、DPU形成三大算力支柱。由此也可以看出英偉達(dá)在數(shù)據(jù)中心的總體策略：并非只強(qiáng)調(diào)云端的高端算力，還在向數(shù)據(jù)中心通信傳輸和處理領(lǐng)域加速滲透，形成“計(jì)算+傳輸”雙管齊下的業(yè)務(wù)閉環(huán)，將數(shù)據(jù)中心整體作為一個(gè)系統(tǒng)來(lái)打造，實(shí)現(xiàn)計(jì)算分布的可能性。

 

最新發(fā)布的新一代BlueField-3 DPU，官方介紹稱：一顆可抵300個(gè)CPU核才能實(shí)現(xiàn)的服務(wù)，這是繼去年發(fā)布BlueField-2和 BlueField-2X兩款DPU后的又一次升級(jí)。

 

BlueField-2剛剛開始使用，BlueField-3的發(fā)布節(jié)奏屬實(shí)夠快。對(duì)此，黃仁勛凡爾賽了一把：“BlueField的投資回報(bào)率非常好，借助BlueField，我們可以同時(shí)改進(jìn)服務(wù)質(zhì)量，增加并發(fā)用戶數(shù)量。”言即透露，不是我想快，是市場(chǎng)催著我快。

 

 

英偉達(dá)的DPU產(chǎn)品可以追溯到Mellanox公司，正是對(duì)于這家公司的收購(gòu)，使英偉達(dá)在提高服務(wù)器間連接的協(xié)同速度方面迅速補(bǔ)足短板。

 

值得一提的是，在被英偉達(dá)冠上“DPU”這個(gè)名字之前，Mellanox的BlueField產(chǎn)品最初其實(shí)命名為IPU(I/O處理單元)，主要處理在 I/O 路徑硬件中的數(shù)據(jù)，通過更多的硬件安全功能，包括無(wú)代理微分段、高級(jí)惡意軟件檢測(cè)、深度包檢測(cè)和應(yīng)用程序識(shí)別等，實(shí)現(xiàn)了兼顧了軟件定義解決方案的速度和靈活性，并且提高了安全性、加速了性能并改善了效率。

 

推測(cè)黃仁勛更名為DPU，應(yīng)該是既傳承這一硬件方案的優(yōu)勢(shì)，也體現(xiàn)了未來(lái)以數(shù)據(jù)為中心的變革趨勢(shì)。從目前的幾代產(chǎn)品發(fā)布來(lái)看，DPU已經(jīng)加入了明顯的英偉達(dá)基因，例如BlueField-2X就在板卡上給DPU加上了Ampere架構(gòu)的GPU，這被英偉達(dá)稱作是AI-powered DPU。而BlueField-3作為業(yè)內(nèi)首款400G以太網(wǎng)和NDR InfiniBand DPU，具有更好的網(wǎng)絡(luò)性能。相比上一代產(chǎn)品，實(shí)現(xiàn)了10倍加速計(jì)算能力、16個(gè)Arm A78 CPU核，和4倍的加密速度。

 

除了計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)傳輸功能，DPU還肩負(fù)著一個(gè)對(duì)數(shù)據(jù)業(yè)務(wù)至關(guān)重要的職責(zé)：安全。當(dāng)我們把所有的設(shè)備、軟件和環(huán)境都放到云端的時(shí)候，首要面臨的就是安全問題，預(yù)防安全攻擊正成為一個(gè)新的課題。以往數(shù)據(jù)吞吐量并不大的時(shí)候，可以通過路由器、網(wǎng)卡、交換機(jī)等進(jìn)行流量過濾或加密。但是，5G和物聯(lián)網(wǎng)的普及，傳統(tǒng)的應(yīng)對(duì)方式不再適用。通過DPU可以在線應(yīng)對(duì)數(shù)據(jù)安全問題或?qū)笵DoS攻擊。并且，通過加入AI訓(xùn)練，甚至能夠在無(wú)人干預(yù)、值守的情況下，識(shí)別異常流量、并在短時(shí)間內(nèi)對(duì)服務(wù)器進(jìn)行保護(hù)。這也應(yīng)該是英偉達(dá)下一步對(duì)基于AI的DPU的一種應(yīng)用場(chǎng)景。

 

 

DPU這個(gè)大蛋糕，也吸引了國(guó)內(nèi)外的初創(chuàng)企業(yè)。

 

由思科前高管創(chuàng)辦的Pensando，方案主要通過軟件定義網(wǎng)絡(luò)處理器實(shí)現(xiàn)，已經(jīng)獲得了HPE、Oracle和Lightspeed Venture Partners等知名公司的投資;Fungible的方案主要基于MIPS架構(gòu)，面向網(wǎng)絡(luò)、存儲(chǔ)、虛擬化，2019年該公司獲得由軟銀愿景基金領(lǐng)投的2億美元C輪融資。

 

國(guó)內(nèi)市場(chǎng)這個(gè)賽道也正變得熱鬧異常。

 

脫胎于中科院計(jì)算所計(jì)算機(jī)體系結(jié)構(gòu)國(guó)家重點(diǎn)實(shí)驗(yàn)室的中科馭數(shù)，算是在國(guó)內(nèi)較早進(jìn)行DPU芯片研發(fā)的，以其KPU專用處理器架構(gòu)為基本組件來(lái)打造DPU芯片，在過去兩年完成了兩代KPU的迭代，并于2019年推出了數(shù)據(jù)庫(kù)與時(shí)序數(shù)據(jù)處理融合的加速芯片，已經(jīng)成功流片。其DPU芯片具有網(wǎng)絡(luò)協(xié)議處理、數(shù)據(jù)庫(kù)和大數(shù)據(jù)處理加速、存儲(chǔ)運(yùn)算、安全加密運(yùn)算等核心功能。

 

近期還有兩家企業(yè)傳來(lái)融資消息。

 

成立于2015年的芯啟源，針對(duì)超大規(guī)模電信和企業(yè)級(jí)智能網(wǎng)絡(luò), 提供基于DPU芯片的智能網(wǎng)卡。該公司于2月宣布完成數(shù)億元Pre-A2輪融資，由和利資本與軟銀中國(guó)共同領(lǐng)投。

 

還有成立于今年3月的珠海星云智聯(lián)，日前宣布完成數(shù)億元天使輪融資，由高瓴創(chuàng)投領(lǐng)投，鼎暉VGC(鼎暉創(chuàng)新與成長(zhǎng)基金)、華登國(guó)際中國(guó)基金參與跟投。官方資料顯示，該公司專注于數(shù)據(jù)中心基礎(chǔ)互聯(lián)通信架構(gòu)和DPU芯片研發(fā)，團(tuán)隊(duì)成員有來(lái)自硅谷、以色列、加拿大等地ICT領(lǐng)域的專家。

 

 

根據(jù)英偉達(dá)方面的預(yù)測(cè)，市場(chǎng)上每年交付的大約3000萬(wàn)臺(tái)數(shù)據(jù)中心服務(wù)器中，有1/3用于運(yùn)行軟件定義的數(shù)據(jù)中心堆棧，而這種工作負(fù)載的增長(zhǎng)速度遠(yuǎn)快于摩爾定律，除非卸載并加速這類工作負(fù)載，否則數(shù)據(jù)中心用來(lái)運(yùn)行應(yīng)用程序的CPU算力會(huì)越來(lái)越少。

 

在這樣的背景下，構(gòu)建以數(shù)據(jù)為中心的系統(tǒng)已經(jīng)是大勢(shì)所趨。DPU作為最新發(fā)展起來(lái)的專用處理器的一個(gè)大類，專門來(lái)應(yīng)對(duì)端邊云一體化趨勢(shì)下對(duì)計(jì)算延遲、數(shù)據(jù)安全、資源虛擬化的需求。

 

多家DPU企業(yè)都在憧憬“它將成為未來(lái)計(jì)算的三大支柱之一”。這一天究竟何時(shí)到來(lái)?是否能如愿實(shí)現(xiàn)?

 

不管怎樣，一個(gè)新的時(shí)代已經(jīng)到來(lái)。