2/26/2024,光纖在線訊,在江蘇省南京市中國電信吉山數據中心,一輛白色的大型卡車吸引了眾多來訪者的注意,然而這輛看似普通的卡車卻內藏乾坤,蘊含大量智能算力。這輛車名為“智能算力車”,由中國電信聯合烽火通信打造,以滿足客戶數據不出域、靈活訓練大模型的算力需求,實現全國調度、隨用隨到、安全可靠。
“智能算力車”創(chuàng)新概念由中國電信首次提出,顧名思義是將計算資源整合至車載平臺,搭建算力網絡,通過對算力資源的有序調度來滿足數據敏感類客戶在特定場景下,對高安全性、高私密性、快速部署的算力任務需求,為用戶提供便捷高效的移動計算能力服務。
烽火通信承接了“智能算力車”集裝箱微模塊部分的設計、制造及交付。單體移動算力車搭載了8臺烽火FitSever G440K V2高性能訓練服務器,每臺設備配備了8張高性能訓練卡,通過底層交換架構實現多卡互聯,充分加速中小型規(guī)模的模型訓練任務。同時,車內還集成了配電和UPS兩大模塊,以及制冷和監(jiān)控兩大系統,全方位為算力車內外部提供動能支持和狀態(tài)監(jiān)控,保障穩(wěn)定運行。
相較傳統機房高額的建設投入、漫長的建設周期與復雜的后期維護,“智能算力車”具有靈活部署、安全可靠、便捷省心的特點,并具備獨立節(jié)點與集群組網兩種解決方案。
在獨立節(jié)點方案下,以一組算力車為完整計算單元,基本十天左右可完成特定行業(yè)的模型訓練任務,做到完全物理隔離,保障用戶數據的私密性和安全性;同時對環(huán)境要求低,僅需提供車輛停放場地和自來水水源,即停即用,同城可實現24小時內部署完成,本省異地城市區(qū)域隔日抵達,支持全國調度。
在多車集群組網方案下,采用Spine-Leaf架構,實現多車算力互聯,支持中大型模型的訓練任務,集群擴展能力可彈性伸縮,客戶可根據需求靈活增減算力規(guī)模。
近日,“智能算力車”解決方案首次在江蘇落地,隨后將駛往雄安電信數據中心開展交通大模型訓練。
烽火通信將攜手中國電信,持續(xù)深化算力車功能定制與開發(fā)適配層面的合作,共同推動其在應急通信、重大工程外場保障方面的應用,并堅持技術創(chuàng)新,不斷探索多車互聯、訓推一體等方案從試點到規(guī)模商用。