一、浪潮NF5688 G8服務(wù)器 產(chǎn)品概況

浪潮元腦R1推理服務(wù)器NF5688G8是基于浪潮信息新一代AI超融合架構(gòu)平臺(tái)，面向超大規(guī)模數(shù)據(jù)中心的強(qiáng)勁性能、擴(kuò)展人工智能服務(wù)器，至強(qiáng)算力密度6U空間內(nèi)搭載1塊NVIDIA  Hopper架構(gòu)HGX-8GPU模組，系統(tǒng)支持4.0Tbps網(wǎng)絡(luò)帶寬，支持FP8原生精度下單機(jī)部署DeepSeek 671B大模型。

浪潮NF5688 G8服務(wù)器搭載2顆AMD第五代EPYC處理器(Max  cTDP  500W)，可達(dá)3TB系統(tǒng)內(nèi)存，128TB NVMe高速存儲(chǔ)，支持高達(dá)12個(gè)PCIe Gen5 x16擴(kuò)展槽位，可靈活支持OCP 3.0、CX7、多種智能網(wǎng)卡等，構(gòu)建面向超大模型訓(xùn)練、元宇宙、自然語(yǔ)言理解、推薦、AIGC等場(chǎng)景的AI算力平臺(tái)。

二、浪潮NF5688 G8服務(wù)器 產(chǎn)品特性

強(qiáng)勁性能
單機(jī)顯存容量1128G，實(shí)現(xiàn)DeepSeek671B模型完整部署
2顆AMD第五代 EPYC處理器
集成Transformer引擎，大幅加速GPT大模型訓(xùn)練速度

良好能效
散熱性能優(yōu)化，風(fēng)道解耦設(shè)計(jì)提升20%系統(tǒng)能效比
12V和54V N+N冗余電源分離供電設(shè)計(jì)，減少電源轉(zhuǎn)換損耗
智能分層調(diào)節(jié)散熱，降低功耗與噪音

優(yōu)化架構(gòu)
節(jié)點(diǎn)內(nèi)全PCle 5.0高速鏈路，CPU至GPU帶寬提升4倍
節(jié)點(diǎn)間高速互聯(lián)擴(kuò)展，4.0Tbps無(wú)阻塞帶寬IB/ROCE組網(wǎng)
集群級(jí)優(yōu)化架構(gòu)設(shè)計(jì)，集群級(jí)優(yōu)化架構(gòu)設(shè)計(jì)，GPU: 計(jì)算IB:存儲(chǔ)IB=8:8:2

多元兼容
全模塊化設(shè)計(jì)，一機(jī)多芯，靈活配置支持本地和云端部署
加速大模型訓(xùn)練和推理
支持多樣化的SuperPod解決方案，適用AIGC、AI4Science 及元宇宙等豐富場(chǎng)景

三、浪潮NF5688 G8服務(wù)器 規(guī)格參數(shù)