9/17/2019， Mellanox公司供稿，作者：Michael Kagan，Mellanox CTO  一只體重只有 1 到 2 毫克的螞蟻，能繞過障礙物，快速有效地找到獵物，這足以讓我們最先進(jìn)的機(jī)器人深感汗顏…… 然而，盡管擁有這些明顯的智慧，那些形單影只的螞蟻也只會漫無目的地四處游蕩，直到數(shù)量超過幾十只時才會出現(xiàn)變化；與此同時，更高層次的智能也開始出現(xiàn)。隨著數(shù)量的增加，這種轉(zhuǎn)變更加驚人，數(shù)以百萬計的螞蟻可以建造擁有復(fù)雜的通風(fēng)系統(tǒng)、下水道和回收設(shè)施的“城市”。螞蟻是除了人類之外唯一具備大規(guī)模聯(lián)合作業(yè)能力的生物，它們種植活的農(nóng)作物，蓄養(yǎng)和役使蚜蟲及其他昆蟲，“榨取”它們以獲得食物；蟻群會彼此交流、學(xué)習(xí)、組成團(tuán)隊并參與戰(zhàn)爭。

在 2019 年 5 月于巴塞羅那舉行的歐洲IT Spotlight 大會上，我在 NetEvents 的主題演講中，將螞蟻的行為與最先進(jìn)的數(shù)據(jù)中心、以及高效數(shù)字轉(zhuǎn)換所需的更高級別智能進(jìn)行了比較。這種動態(tài)反應(yīng)的智能不應(yīng)僅存在于 一個CPU、一臺服務(wù)器或存儲、或者網(wǎng)絡(luò)、或者任何單一的應(yīng)用程序中，更需要解決的問題是 — 將大量本地數(shù)據(jù)集在上述所有的設(shè)備中進(jìn)行整體優(yōu)化，以建立數(shù)據(jù)中心級計算機(jī)。就像蟻群一樣，它們沒有中央控制系統(tǒng)，卻能工作的有條不紊。最新的機(jī)器學(xué)習(xí)模型就像蟻群一樣，也沒有單一的控制程序，在由智能網(wǎng)絡(luò)連接、由計算和存儲設(shè)備組成的數(shù)據(jù)中心內(nèi)，是數(shù)據(jù)自己在驅(qū)動著所有進(jìn)程。這種“深度學(xué)習(xí)”也可以與人腦媲美 — 人腦是一個由相對較小的處理元件組成的龐大網(wǎng)絡(luò)，這些元件被稱為突觸，它在這個龐大網(wǎng)絡(luò)中的移動其實(shí)就是在處理數(shù)據(jù)。

一個數(shù)據(jù)爆發(fā)的時代
作為前言，我想舉一個在普通數(shù)據(jù)采集過程中出現(xiàn)變化的例子。2007 年，諾基亞（一家市值 1，500 億美元的企業(yè)）決定投資新興的汽車衛(wèi)星導(dǎo)航市場，他們收購了 Navitech，一家在歐洲擁有約 500 萬臺交通攝像頭的公司，他們意識到如果導(dǎo)航系統(tǒng)能與實(shí)時交通狀況保持同步，將會為其帶來巨大的競爭優(yōu)勢。同年，一家名為 Waze 的以色列公司成立，該公司的宗旨與 Navitech 相似，只不過 Waze 并非通過安裝數(shù)百萬個交通傳感器來收集數(shù)據(jù)，而是通過每個用戶手機(jī)上的應(yīng)用程序來獲取數(shù)據(jù)。這使 Waze 可以利用每個智能手機(jī)中的 GPS 定位芯片，收集交通流量數(shù)據(jù)并將其上傳到 Waze的系統(tǒng)，在沒有任何成本的情況下快速部署了數(shù)以千萬計的交通傳感器。接下來的情況就眾所周知了：在五、六年的時間里，諾基亞的市值縮水至低于 Navitech 的收購價，而 Waze 則被谷歌收購。

    圖1 帶寬增長與數(shù)據(jù)處理能力的差距
這是一個很好的例子，反映了從向外收集數(shù)據(jù)到讓數(shù)據(jù)向內(nèi)涌入的根本性轉(zhuǎn)變：其中的區(qū)別類似于從井中打水和匯集落在地上的雨水。在圖 1 中，我們可以看到這一轉(zhuǎn)變帶來的一些影響，其中藍(lán)色的“數(shù)據(jù)增長”線在 2007 年之后很快變得更加陡峭，并向上飆升；圖中的直線表示摩爾定律預(yù)期的處理能力的線性增長；紅線表示實(shí)際 CPU 性能的增長正在放緩，因?yàn)槲覀冋�在接近芯片的極限。但請注意，表示網(wǎng)絡(luò)帶寬的綠線與數(shù)據(jù)增長的走勢幾乎一致。舊時以 CPU 為核心的思維方式已開始走向沒落，我們需要跳出固有思維模式 — 跳出計算機(jī)的思維定勢，以解決當(dāng)今企業(yè)面臨的重大問題。
 
為了產(chǎn)生有用的業(yè)務(wù)價值，需要處理大量數(shù)據(jù)集，然而如今，任何單獨(dú)的處理單元都無法做到這點(diǎn)。相反，我們需要的是優(yōu)化整個棧中的計算、存儲、網(wǎng)絡(luò)和應(yīng)用程序等所有元素，使它們能夠協(xié)同工作以建立一個數(shù)據(jù)中心級的計算機(jī)，用整個集群來提供服務(wù)。這需要數(shù)據(jù)為機(jī)器編程，而不是由人為機(jī)器來編程。正如由數(shù)百萬只螞蟻的經(jīng)驗(yàn)匯聚而成的大量數(shù)據(jù)將會激活和產(chǎn)生智能，并能建設(shè)性的進(jìn)行項目開發(fā)；機(jī)器學(xué)習(xí)也是從海量物聯(lián)網(wǎng)數(shù)據(jù)中挖掘出其意義和相關(guān)性，并創(chuàng)造出新的、高效的應(yīng)用程序。

從群體到云
這是關(guān)于云的介紹，云的出現(xiàn)改變了計算的交付形式，云正在將計算從服務(wù)器轉(zhuǎn)向服務(wù)。如果你家里有電，這意味著你插上了插座，獲得了電力，就像打開水龍頭接通水管一樣。如果你家里有一臺電腦，傳統(tǒng)意義上這意味著你有一個充滿計算能力的箱子，你要負(fù)責(zé)讓箱子里的一切都能正常運(yùn)行。但云計算讓我們更接近于取電的方式，在這種模式下，計算機(jī)不再固定于辦公桌上，而更像是一個插座，你可以通過它獲取服務(wù)。我們需要跳出計算機(jī)的思維定勢，才能理解這種變化的含義。

如果你對通信的想象僅限于用信鴿來傳遞信息，那么你的創(chuàng)造力可能會局限在一個維度上，尋找飛的更快的信鴿。但如今的視頻會議帶來的不僅僅是快速的溝通，它還可以使在不同位置的人同時看到和聽到，甚至可以實(shí)現(xiàn)不同語言之間的機(jī)器翻譯。因此，要在性能上實(shí)現(xiàn)真正的巨大突破，你需要跳出固有思維。

我們與 Oracle 合作的關(guān)于Oracle集群數(shù)據(jù)庫系統(tǒng)的改造就是一個不錯的例子。他們最初使用傳統(tǒng)網(wǎng)絡(luò)技術(shù)，但無論如何優(yōu)化他們的系統(tǒng)，通信軟件開銷總是瓶頸，性能改進(jìn)非常有限。然后，在采用了具有 RDMA（遠(yuǎn)程直接內(nèi)存訪問）功能的更加智能的網(wǎng)絡(luò)后，他們終于取得了突破。使用這項技術(shù)可以消除網(wǎng)絡(luò)開銷，并使訪問遠(yuǎn)程資源的成本與訪問本地資源的成本相似，Oracle 利用這項技術(shù)大大提升了系統(tǒng)資源的效率。經(jīng)過重新設(shè)計的 Oracle 系統(tǒng)，網(wǎng)絡(luò)帶寬從 10 Gb/s 提高到 了40 Gb/s，實(shí)現(xiàn)了 4 倍的提升；通過采用 RDMA 技術(shù)消除了傳統(tǒng)的網(wǎng)絡(luò)軟件開銷，他們得到的不僅是這 4 倍的速度提升，而是 50 倍的性能改進(jìn)。這和更好、更高效的智能網(wǎng)絡(luò)是分不開的。

智能網(wǎng)絡(luò)
智能網(wǎng)絡(luò)不僅僅是通過線纜移動數(shù)據(jù)的速度有多快，而是在網(wǎng)絡(luò)的任何地方都變得越來越智能。秘訣就是在數(shù)據(jù)移動過程中對其進(jìn)行處理。蟻群中的每只螞蟻都會接收自身感知到的數(shù)據(jù)，以及通過嗅覺感知到來自其他螞蟻的數(shù)據(jù)；螞蟻?zhàn)约簳�處理這些數(shù)據(jù)，并通過氣味將自己的信號發(fā)送出去，這些信號在網(wǎng)絡(luò)中不斷級聯(lián)，逐漸在蟻群被賦予了意義和普適性。同樣，在我們最先進(jìn)的網(wǎng)絡(luò)產(chǎn)品中，每個交換機(jī)內(nèi)都有計算單元，因此我們在數(shù)據(jù)移動過程中進(jìn)行數(shù)據(jù)聚合。

如今，這項技術(shù)正在被用于 HPC 和機(jī)器學(xué)習(xí)。當(dāng)我們對神經(jīng)網(wǎng)絡(luò)模型的多個實(shí)例中的數(shù)據(jù)集進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練時，在單獨(dú)的訓(xùn)練后，訓(xùn)練結(jié)果需要被整合，這通常需要花費(fèi)與訓(xùn)練本身同樣多的時間，分布式執(zhí)行該過程可將“參數(shù)服務(wù)器”的處理速度加快 10 倍，從而將訓(xùn)練的時間從數(shù)天縮短到數(shù)小時，或從數(shù)周縮短到數(shù)天。我們稱其為 SHARP — 可擴(kuò)展分層聚合和歸約協(xié)議。其它網(wǎng)絡(luò)只會在計算單元之間移動數(shù)據(jù)，SHARP 卻可以在數(shù)據(jù)通過網(wǎng)絡(luò)時對其進(jìn)行處理和計算，有效地將網(wǎng)絡(luò)本身變成了一個功能強(qiáng)大的協(xié)處理器，從而顯著提高應(yīng)用性能。

對于存儲網(wǎng)絡(luò)，我們提供 SNAP — 基于軟件定義的網(wǎng)絡(luò)加速處理。我們的 Bluefield 智能網(wǎng)卡虛擬化技術(shù)可以將云中的資源模擬為的本地設(shè)備，而不再是需要在主機(jī)上更改 API 的網(wǎng)絡(luò)設(shè)備。SNAP 支持各種基于傳統(tǒng)操作系統(tǒng)的機(jī)器，它能夠神奇地將各種東西轉(zhuǎn)變成本地設(shè)備。因此，采用我們的智能網(wǎng)卡，可以調(diào)用網(wǎng)絡(luò)中的不同機(jī)器的資源，將它們作為本地存儲設(shè)備來使用，或本機(jī)上的本地存儲服務(wù)來使用。我們正在與主要云廠商進(jìn)行試點(diǎn)合作，并計劃在一年后投入生產(chǎn)（見圖 2）。

 圖2 
再舉一個有效利用資源的例子：網(wǎng)絡(luò)功能虛擬化（NFV）是一種強(qiáng)大的技術(shù)，可以通過將各種進(jìn)程整合到裸金屬服務(wù)器上以減少到處都是盒子，但這會使負(fù)載都集中到服務(wù)器，從應(yīng)用的角度來看，這會降低數(shù)據(jù)中心的效率，因?yàn)樗鼤�消耗大量的計算資源。要解決這個問題，你可以將大部分的網(wǎng)絡(luò)虛擬化操作卸載到智能網(wǎng)卡上 — SmartNIC。

這樣安全嗎？
但這能在不犧牲安全性的前提下實(shí)現(xiàn)嗎？傳統(tǒng)的數(shù)據(jù)中心主要在使用M&M 安全模型，這個模型的特色是外強(qiáng)內(nèi)弱，主要在數(shù)據(jù)中心邊緣進(jìn)行保護(hù)。在云應(yīng)用中，我們允許在運(yùn)行我們的安全策略的同一臺機(jī)器上運(yùn)行不受我們控制的應(yīng)用程序。一旦惡意軟件在我們的計算服務(wù)器上運(yùn)行，它可能會接管我們的安全策略，從而接管數(shù)據(jù)中心。就這樣，整個數(shù)據(jù)中心被我們許可的在機(jī)器上運(yùn)行的程序接管了。

為了保護(hù)我們的數(shù)據(jù)中心，我們必須確保攻擊者和受害者不在同一臺計算機(jī)上，我們需要改變安全模型，將外強(qiáng)內(nèi)弱改為外強(qiáng)內(nèi)也強(qiáng)，數(shù)據(jù)中心的每臺機(jī)器都必須受到保護(hù)。

BlueField的SNAP 技術(shù)允許將安全策略運(yùn)行在BlueField 卡自己的操作系統(tǒng)上，將其應(yīng)用程序服務(wù)器分離出來。借助 BlueField，我們可以將基礎(chǔ)架構(gòu)計算和應(yīng)用程序計算分層隔離。此外，我們還可以完全獨(dú)立地升級計算服務(wù)器和基礎(chǔ)架構(gòu)服務(wù)器 ，互不影響。這樣更安全，也更高效。
結(jié)論

我們在當(dāng)下以及未來將面臨的情況是：大量的非結(jié)構(gòu)化數(shù)據(jù)要求機(jī)器學(xué)習(xí)的能力越老越強(qiáng)，將會產(chǎn)生超出我們想象的新應(yīng)用程序。估值達(dá) 4 萬億美元的盈利商機(jī)正等著我們攫取。而跳出計算機(jī)的思維定勢將是我們面臨的挑戰(zhàn)。


關(guān)于 Mellanox
Mellanox公司的英文全稱是Mellanox Technologies（中文名：邁絡(luò)思），是一家在全球范圍內(nèi)為服務(wù)器和存儲提供端到端InfiniBand和以太網(wǎng)互連解決方案的領(lǐng)軍企業(yè)。Mellanox互連解決方案通過低延遲、高吞吐量的強(qiáng)大性能，可以極大地提升數(shù)據(jù)中心效率，在應(yīng)用和系統(tǒng)之間快速地傳遞數(shù)據(jù)，提升系統(tǒng)可用性。Mellanox為業(yè)內(nèi)提供了加快內(nèi)部設(shè)備互連的技術(shù)和產(chǎn)品，包括網(wǎng)卡、交換機(jī)、軟件和芯片，這些產(chǎn)品都可以加速應(yīng)用的執(zhí)行，并最大化地提升HPC、企業(yè)數(shù)據(jù)中心、Web2.0、云計算、存儲以及金融服務(wù)的效率。更多信息請關(guān)注：www.mellanox.com。

注：Mellanox、ConnectX-6、Mellanox Quantum、Mellanox 可擴(kuò)展分層聚合和歸約協(xié)議 (SHARP) 以及 Mellanox 徽標(biāo)是 Mellanox Technologies, Ltd. 的注冊商標(biāo)。所有其他商標(biāo)均為其各自所有者的資產(chǎn)。