NVIDIA應用大爆發 DPU打入保安市場

OmniverseAvatar
黃仁勳也介紹了Omniverse Avatar出場,以Omniverse生成出酷似黃仁勳的卡通人物Toy Jensen,仿照其口音和神態,舉手投足都維肖維妙,在Toy Story背景與真人對話。

新科技速遞

GPU廠商NVIDIA舉行GTC秋季大會,股價亦再創新高,市值超越7,000億美元。不少人以為NVIDIA升上萬億市值,指日可待。

NVIDIA何以如此矜貴,全因推動了炙手可熱的AI市場,GTC從開場音樂到影片效果,都是由AI的傑作。NVIDIA的CUDA加速平台,已經成全球AI訓練和推論最流行工的具。

事實上,除了CUDA加速平台上,出現愈來愈多算法以加速應用,配合分散運算,以超大型數據中心,除了加速AI,以模擬算運、電腦遊戲、電影特技、工業設計、超級運算、科學研究、自動駕駛、數碼孿生,甚至「Meta Platforms」(前Facebook)不斷吹捧的「元宇宙」(Metaverse),沒有超強的平行運算,基本上紙上談兵。

nvidia
NVIDIA的Omniverse可快速建立虛擬世界,透過Omniverse Replicator 合成數據生成引擎,即可在符合物理定律的原則下,產生大量合成數據,模擬現實世界的場景,愛立信就用來測試5G基站部署後的電波接收效果。

賦能百業大小通吃

NVIDIA創辦人黃仁勳一開始就談到應用改以CUDA取代CPU,速度以百倍跳升各行各業以CUDA加速,NVIDIA的SDK已超過150個,今年升級或推出65個SDK最新的SDK則可加速設計自動化,包括與Ansys、Synopsys、Cadence、Dassault等自動設計軟件,加速各種電腦輔助工業設計,其中ANSYS Fluent是全球流動分析軟件,以一個DGX系統取代30個高階雙處理器服務器。

其中,針對物流揀貨和路徑計算的REOPT SDK,可優化於速遞送貨路徑。例如Domino以一次送遞14個薄餅為例,就有870億種不同途徑REOPT可瞬間找到答案。

NVIDIA也NVIDIA推出了Omniverse透過3D合成,多個GPU作實時模擬和協作運算平台,去年底以來下載超過70000次,作為產生AR/VR的場景,透過Omniverse Replicator 合成數據生成引擎,即可在符合物理定律原則產生大量的合成數據模擬現實世界的場景,從地球暖化預測,以至模擬電波穿透強度以部署5G的基站,都可在數碼孿生內完成,省回以億計部署成本。

數據孿生幾可亂真

NVIDIA進一步介紹去年推出BlueField DPU。2019年NVIDIA收購了智能網卡Mellanox,2020年10月,黃仁勳給Mellanox的產品改了一個新名字叫DPU(數據處理器),令DPU頓時成投資界新寵兒。NVIDIA曾以圖形處理器GPU改寫了平行處理的歷史,DPU也令人有無限的遐想。

BlueField的DPU跟以往Mellanox智能網卡一樣功能上其實沒分別,目標都是卸載、加速、隔離數據中心內各種流量,更好管理網絡和分配儲存,不過改了名字的BlueField突然身價百倍以外還可在數據中心內建立零信任」的環境。

Mellanox智能化操作,以往強調可從CPU,卸載數據中心的網絡的運算工作,例如是虛擬交換和路由功能,另外是卸載數據中心的儲存處理,例如是RDMA和NVMe,以簡化分配儲存等。

從數據角度,以往上述服務和應用,通常靠軟件來實現,也就是在數據中心CPU處理器內運行,而DPU卸載上述功能以後,就是以特定硬件去運行上述網絡、儲存和安全,原理也是以硬件加速,速度當然可比CPU快上倍數計,更容易打造超級運算的數據中心。

Mellanox的NVMe SNAP可解決了本地儲存難於分配的問題,針對雲運算必須提供儲存分配的靈活性,數據中心可運用NVMe over Fabrics(NVMe-Of)等技術遠程分配儲存物盡其用。

黃仁勳
NVIDIA創辦人黃仁勳:應用改以CUDA取代CPU,速度以百倍跳升;各行各業以CUDA加速,NVIDIA的SDK已超過150個

DPU建零信任

Mellanox以往沒有強調DPU另外一項重要優點,就是隔離上述多個應用和用戶的應用之後;DPU建立的數據中心,網絡、儲存、安全都控制位同一個設備內,另外再加上數據中心安全,包括防火牆和加密解密就可做到隔離和保護,甚至實施安全分析也相對地簡單。

DPU可望大幅改善數據中心的安全,BlueField讓防火牆在DPU內運行,故此NVIDIA與多家防火牆服務廠商合作包括CheckPoint、F5、Fortinet、Juniper、Guardicore、PAN、Trend Micro、VMWare,利用BlueField實踐零信任數據中心的網絡儲存,巨細無遺經DPU來處理,防火牆供應商也可提供Zero-trust security as a service,驗證所有數據交換。 

較早前NVIDIA推出Morpheus深度學習平台,配合BlueField DPU,則讓網絡每個運算節點,扮演邊緣網路防衛的感測器Morpheus也是以GPU加速,可以線速分析每個封包。傳統AI工具通常只能檢測網絡流量的約5%,所以獲得的威脅檢測演算法並不完整模型。

開發人員可靠深度學習模型打造本身的Morpheus AI技術,以辨識出之前幾乎不可能察覺的網絡威脅或異常。

未來的數據中心,會否是CPU、GPU、DPU組成的鐵三角目前還難以定論。DPU作為網絡保安的一種新維度,肯定殆無疑義。

Leave a Reply

Your email address will not be published.