單通道400G已就緒！全?；ヂ?lián)公司揭開800G AI超級網(wǎng)卡序幕

  ICC訊 行業(yè)領(lǐng)先的AI網(wǎng)絡(luò)全棧式互聯(lián)產(chǎn)品及解決方案提供商奇異摩爾宣布，已成功構(gòu)建800G AI超級網(wǎng)卡（SNIC）平臺架構(gòu)，除了800Gb/s的高帶寬，亞微秒級的超低時延，其關(guān)鍵技術(shù)還涵蓋面向AI網(wǎng)絡(luò)的增強型RoCE v2機制，包括包噴灑、多路徑傳輸、高效重傳、先進(jìn)的可編程擁塞控制等。基于該自研平臺架構(gòu)設(shè)計的AI SNIC ASIC，已于近期完成回片，并順利通過核心RDMA架構(gòu)的硅驗證，單通道吞吐量穩(wěn)定在400Gbps，關(guān)鍵時延約1微秒。

  在當(dāng)前國產(chǎn)高性能網(wǎng)卡公開產(chǎn)品與產(chǎn)業(yè)敘事仍多集中于100/200G RDMA ASIC引擎階段的背景下，奇異摩爾正以單通道400G RDMA ASIC引擎這一實質(zhì)性突破，為國產(chǎn)AI超級網(wǎng)卡快速邁向800G ASIC揭開序幕。

【圖1】800G AI SNIC平臺架構(gòu)設(shè)計的ASIC已順利通過RDMA架構(gòu)的硅驗證，單通道吞吐量穩(wěn)定在400Gbps

  為什么是基于以太網(wǎng)的RDMA AI原生網(wǎng)卡

  在AI網(wǎng)絡(luò)興起之前，行業(yè)對智能網(wǎng)卡（SmartNIC）的主流劃分，并非圍繞AI訓(xùn)練與推理場景，而是依據(jù)芯片架構(gòu)與卸載能力深度進(jìn)行區(qū)分。核心關(guān)注點在于其能夠為CPU分擔(dān)多少基礎(chǔ)設(shè)施工作，包括虛擬機間網(wǎng)絡(luò)交換、存儲、加解密、安全與遙測、壓縮與解壓縮等硬件卸載功能，典型產(chǎn)品如數(shù)據(jù)處理單元（DPU）網(wǎng)卡，并非針對大模型集群通信進(jìn)行專項定制優(yōu)化。

  進(jìn)入大模型時代，隨著AI訓(xùn)練從千卡向萬卡規(guī)模擴(kuò)展、推理從單機部署走向大規(guī)模分布式服務(wù)，Scale-out網(wǎng)絡(luò)正在成為決定GPU利用率、集合通信效率和單位Token成本的關(guān)鍵基礎(chǔ)設(shè)施。無論是All-Reduce、Reduce-Scatter，還是All-to-All等典型集合通信，都要求網(wǎng)絡(luò)具備更高帶寬密度、更低時延、更低尾時延，以及更快的擁塞響應(yīng)能力。在此背景下，基于以太網(wǎng)的高性能RDMA路線愈發(fā)清晰：它既繼承了以太網(wǎng)生態(tài)開放、部署成熟、成本可控的優(yōu)勢，又通過面向AI網(wǎng)絡(luò)的RoCE/RDMA專項優(yōu)化，逐步具備支撐大規(guī)模AI集群的能力。

  這一技術(shù)趨勢在國內(nèi)頭部云服務(wù)提供商（CSP）的技術(shù)需求規(guī)范，以及國外超以太網(wǎng)聯(lián)盟（UEC）的誕生中體現(xiàn)得尤為明顯。其核心就是交付一套面向AI與HPC場景的開放、高性能以太網(wǎng)架構(gòu)，重點解決傳統(tǒng)以太網(wǎng)在大規(guī)模訓(xùn)練環(huán)境下面臨的多路徑傳輸、快速擁塞響應(yīng)、尾時延控制、易配置與可擴(kuò)展性等問題。換句話說，以太網(wǎng)不再只是“通用網(wǎng)絡(luò)”的代表，而是在AI時代被重新定義為承載大規(guī)模集群互聯(lián)的主航道之一。

【圖2】800G AI SNIC及功能描述

  “奇異摩爾AI超級網(wǎng)卡技術(shù)路線，與頭部云服務(wù)提供商（CSP）的需求完全一致，與UEC的規(guī)范也高度趨同。我們已構(gòu)建的800G平臺架構(gòu)能力，能有效支持最高800Gb/s RDMA吞吐，數(shù)百萬級消息處理能力與數(shù)百萬級隊列（QP），大大增強了RoCE v2協(xié)議棧，增加了包噴灑、亂序重組、高效重傳，高級可編程擁塞控制等AI網(wǎng)絡(luò)急需的增強特性。以太網(wǎng)的技術(shù)路線確保了產(chǎn)品的開放互操作性與生態(tài)兼容性，為進(jìn)入頭部云服務(wù)供應(yīng)商以及未來平滑融入超以太網(wǎng)生態(tài)、實現(xiàn)跨廠商協(xié)同奠定了基礎(chǔ)?！逼娈惸柧W(wǎng)絡(luò)技術(shù)VP葉棟表示。

  葉棟擁有超過20年的網(wǎng)絡(luò)互聯(lián)系統(tǒng)架構(gòu)設(shè)計經(jīng)驗，在AI網(wǎng)絡(luò)協(xié)議、RDMA、虛擬化、軟件協(xié)議棧等方面擁有豐富的專業(yè)知識。其在英特爾（中國）工作多年，曾任英特爾網(wǎng)絡(luò)互聯(lián)產(chǎn)品事業(yè)部技術(shù)總監(jiān)，負(fù)責(zé)英特爾以太網(wǎng)、智能網(wǎng)卡，P4可編程交換芯片、英特爾/Google IPU相關(guān)系統(tǒng)架構(gòu)產(chǎn)品的本地化研發(fā)和部署。啟動和主導(dǎo)了多家大型云服務(wù)提供商大規(guī)模部署的技術(shù)方案的底座。

  針對網(wǎng)絡(luò)密集型大規(guī)模并行計算對高帶寬、低延遲數(shù)據(jù)傳輸?shù)膰?yán)苛需求，NVIDIA不僅推出基于IB網(wǎng)絡(luò)的超級網(wǎng)卡（SNIC），也推出了面向以太網(wǎng)的SNIC，旨在為AI工廠與云數(shù)據(jù)中心提供強大的網(wǎng)絡(luò)支撐。NVIDIA對AI超級網(wǎng)卡的定義十分清晰：這是一類“專為網(wǎng)絡(luò)密集型、海量分布式AI計算工作負(fù)載打造的新型網(wǎng)絡(luò)加速器”。其價值遠(yuǎn)不止于完成數(shù)據(jù)包的傳輸，更在于讓多GPU、多節(jié)點環(huán)境下的通信真正成為釋放算力的加速引擎。

  對標(biāo)NVIDIA ConnectX-8/9的領(lǐng)先性，800G AI網(wǎng)卡從“接口”走向“中樞”

  NVIDIA公開表示，ConnectX-8是業(yè)界首個把PCIe Gen6級交換能力與超高速網(wǎng)絡(luò)處理能力集成到單一器件中的超級網(wǎng)卡（SNIC）。它不僅服務(wù)于AI、HPC和超大規(guī)模云數(shù)據(jù)中心場景，還通過集成48 lanes的PCIe Gen6 Switch，把原本需要獨立PCIe Switch和獨立NIC共同完成的任務(wù)，整合到一個高集成度器件中，這是一項絕無僅有的創(chuàng)新技術(shù)路徑。

  傳統(tǒng)1機8卡PCIe GPU服務(wù)器普遍采用以CPU為根節(jié)點、PCIe Switch向下連接GPU的樹形拓?fù)?。這種架構(gòu)在通用計算時代較為成熟，但在大模型訓(xùn)練場景下，其結(jié)構(gòu)性性能瓶頸日益突出：GPU間通信往往需要經(jīng)過PCIe Switch，跨Socket路徑還可能受到主機鏈路約束，導(dǎo)致時延升高、帶寬利用率下降，難以滿足All-Reduce、Reduce-Scatter、All-to-All等高頻集合通信對低時延和高吞吐的要求。因此ConnectX-8將PCIe Gen6交換能力與高速網(wǎng)絡(luò)能力整合到單一器件中，可替代傳統(tǒng)離散PCIe Switch，既優(yōu)化GPU到GPU、GPU到NIC的數(shù)據(jù)路徑，也降低系統(tǒng)復(fù)雜度、功耗和總體擁有成本。

  在端口形態(tài)上，ConnectX-8也已經(jīng)明確邁入800G時代。NVIDIA官方顯示，ConnectX-8以太網(wǎng)版本具備2×400GbE的產(chǎn)品形態(tài)，其不僅擁有800G級總帶寬能力，也具備更靈活的雙端口組網(wǎng)方式，更適合未來大規(guī)模AI集群對冗余、分流、彈性擴(kuò)展和復(fù)雜拓?fù)洳渴鸬男枨蟆某鲐浶螒B(tài)來說，ConnectX-8已將高速網(wǎng)絡(luò)能力與PCIe Gen6 Switch能力整合至單一器件之中，并以一體化集成設(shè)計形態(tài)面向平臺出貨。

  奇異摩爾創(chuàng)造里程碑：國產(chǎn)AI SNIC從“可用”邁向“高性能”

  正是在這樣的全球技術(shù)演進(jìn)背景下，奇異摩爾基于自研800G AI SNIC ASIC架構(gòu)構(gòu)建的單通道400G引擎完成了核心RDMA ASIC流片驗證，才顯得意義格外突出。與FPGA方案更適合早期驗證、快速迭代不同，ASIC路線決定了一款產(chǎn)品是否真正具備面向大規(guī)模AI訓(xùn)推集群的性能上限、功耗效率、板卡集成度和量產(chǎn)一致性。奇異摩爾率先在國產(chǎn)陣營中實現(xiàn)單通道400G RDMA ASIC引擎，吞吐量穩(wěn)定在400Gbps，不僅填補了國內(nèi)高帶寬超級網(wǎng)卡芯片的空白，更充分證明了其已掌握2×400G乃至更高速率產(chǎn)品的核心設(shè)計能力，為下一代800G網(wǎng)卡奠定了堅實技術(shù)基礎(chǔ)。

  奇異摩爾最新800G SNIC全面對標(biāo)英偉達(dá)ConnectX-8/9的架構(gòu)方向，采用與國際先進(jìn)方案相一致的“高速網(wǎng)絡(luò)處理+PCIe Switch能力”一體化設(shè)計思路，在產(chǎn)品形態(tài)上支持2×400G端口以太網(wǎng)總帶寬，在架構(gòu)層面同時提供AI服務(wù)器內(nèi)部互連優(yōu)化與節(jié)點間高速通信能力。這意味著，該企業(yè)在800G產(chǎn)品布局上不只是帶寬規(guī)格升級，更是對未來AI高性能集群互連形態(tài)的提前卡位：通過集成PCIe Switch能力，重構(gòu)GPU到GPU、GPU到NIC的數(shù)據(jù)路徑，提升集合通信效率、降低系統(tǒng)復(fù)雜度，并增強對整機平臺和集群方案的定義能力。

  奇異摩爾網(wǎng)絡(luò)技術(shù)VP葉棟補充道，奇異摩爾最新800G超級網(wǎng)卡計劃于年內(nèi)量產(chǎn)，有望成為國產(chǎn)800G AI超級網(wǎng)絡(luò)芯片、系統(tǒng)集成方案以及平臺級架構(gòu)能力上的重大突破，進(jìn)一步增強中國廠商在未來AI高性能集群基礎(chǔ)設(shè)施中的產(chǎn)品定義權(quán)、方案協(xié)同權(quán)和產(chǎn)業(yè)話語權(quán)。

  國產(chǎn)化窗口已開，市場潛力加速釋放

  從產(chǎn)業(yè)空間與政策環(huán)境來看，奇異摩爾所切入的并非小眾賽道，而是一個正在快速擴(kuò)容的核心基礎(chǔ)設(shè)施市場。公開研究顯示，僅ConnectX-7級別的高性能AI網(wǎng)卡市場規(guī)模已超過百億元，并仍在持續(xù)增長。這意味著，以ConnectX-7/ ConnectX-8為代表的高性能AI網(wǎng)卡賽道，背后對應(yīng)的是一個數(shù)百億元級、且仍在不斷放大的市場機遇。

  與此同時，國家對自主可控智算底座、高速互連及國產(chǎn)化集群的戰(zhàn)略需求正持續(xù)加強。國家發(fā)展改革委等部門已明確提出，要加快部署智能無損網(wǎng)絡(luò)、400G/800G等先進(jìn)技術(shù)，建設(shè)高速泛在、安全可靠的全國一體化算力網(wǎng)，并強化自主創(chuàng)新技術(shù)供給能力。

  奇異摩爾是一家深度聚焦AI互聯(lián)多年的全棧式解決方案提供商，以網(wǎng)絡(luò)+芯粒技術(shù)為底層特色，除面向Scale Out場景的AI網(wǎng)卡芯片，公司還提供面向Scale Up超節(jié)點的G2G IO互聯(lián)芯粒，并已在業(yè)內(nèi)實現(xiàn)落地應(yīng)用。這一不同于其他芯片廠商的技術(shù)基因構(gòu)筑了差異化的競爭壁壘，也賦予了其在下一代高性能集群互聯(lián)中更強的靈活性、更廣闊的發(fā)展空間以及更深的技術(shù)縱深。