浪潮信息聯(lián)合英特爾發(fā)布面向生成式AI領(lǐng)域創(chuàng)新開(kāi)發(fā)的新一代AI服務(wù)(http://www.weberwork.com/sell/l_11/)器NF5698G7。該AI服務(wù)器支持8顆OAM高速互聯(lián)的Gaudi2加速器,具備高性能、高擴(kuò)展、高能效和開(kāi)放生態(tài)等優(yōu)點(diǎn),將為AI客戶(hù)提供強(qiáng)大的大模型訓(xùn)練和推理能力。
浪潮NF5698G7在6u空間支持8個(gè)基于oam的開(kāi)放式加速度gaudi2 ai加速器。gaudi2芯片分別配置96gb hbm高速內(nèi)存,提供2.1tbps的p2p帶寬。它有2個(gè)第四代高性能處理器,支持ai加速引擎,如amx/dsa。
浪潮NF5698G7在6u支持12個(gè)pcie5.0 x16 io擴(kuò)展,最多支持4800 gbps的節(jié)點(diǎn)間帶寬。nf569898g7通過(guò)細(xì)分分區(qū)、智能型防熱控制、12v 54v n + n雙輸入電力供應(yīng)(http://www.weberwork.com/sell/)等創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)高輸出負(fù)荷動(dòng)態(tài)整合和低電力損耗,減少8%的電力消耗。

浪潮NF5698G7在6u基于全球開(kāi)放計(jì)算ocp、開(kāi)放加速器規(guī)范oam/ubb設(shè)計(jì)產(chǎn)品(http://www.weberwork.com/invest/),支持主要ai框架,如pytorch、tensorflow,以及流行的開(kāi)發(fā)工具(http://www.weberwork.com/sell/l_5/),如megatron/deepspeed,為生成型ai提供成熟且成本有效的開(kāi)放生態(tài)解決方案。
浪潮NF5698G7在6u是浪潮信息支援的ai計(jì)算資源平臺(tái)——aistation通過(guò)計(jì)算資源、數(shù)據(jù)資源,深度學(xué)習(xí)軟件堆棧的整合管理,通過(guò)大容量模型計(jì)算平臺(tái)的使用效率,有效提高顧客大容量的ai模式可以加快開(kāi)發(fā)及部署的援助。
浪潮NF5698G7在6u是浪潮信息支援的ai計(jì)算資源平臺(tái)——aistation通過(guò)計(jì)算資源、數(shù)據(jù)資源,深度學(xué)習(xí)軟件堆棧的整合管理,通過(guò)大容量模型計(jì)算平臺(tái)的使用效率,有效提高顧客大容量的ai模式可以加快開(kāi)發(fā)及部署的援助。