一、浪潮NF5688 G8服務器 產品概況

浪潮元腦R1推理服務器NF5688G8是基于浪潮信息新一代AI超融合架構平臺，面向超大規(guī)模數(shù)據(jù)中心的強勁性能、擴展人工智能服務器，至強算力密度6U空間內搭載1塊NVIDIA  Hopper架構HGX-8GPU模組，系統(tǒng)支持4.0Tbps網(wǎng)絡帶寬，支持FP8原生精度下單機部署DeepSeek 671B大模型。

浪潮NF5688 G8服務器搭載2顆AMD第五代EPYC處理器(Max  cTDP  500W)，可達3TB系統(tǒng)內存，128TB NVMe高速存儲，支持高達12個PCIe Gen5 x16擴展槽位，可靈活支持OCP 3.0、CX7、多種智能網(wǎng)卡等，構建面向超大模型訓練、元宇宙、自然語言理解、推薦、AIGC等場景的AI算力平臺。

二、浪潮NF5688 G8服務器 產品特性

強勁性能
單機顯存容量1128G，實現(xiàn)DeepSeek671B模型完整部署
2顆AMD第五代 EPYC處理器
集成Transformer引擎，大幅加速GPT大模型訓練速度

良好能效
散熱性能優(yōu)化，風道解耦設計提升20%系統(tǒng)能效比
12V和54V N+N冗余電源分離供電設計，減少電源轉換損耗
智能分層調節(jié)散熱，降低功耗與噪音

優(yōu)化架構
節(jié)點內全PCle 5.0高速鏈路，CPU至GPU帶寬提升4倍
節(jié)點間高速互聯(lián)擴展，4.0Tbps無阻塞帶寬IB/ROCE組網(wǎng)
集群級優(yōu)化架構設計，集群級優(yōu)化架構設計，GPU: 計算IB:存儲IB=8:8:2

多元兼容
全模塊化設計，一機多芯，靈活配置支持本地和云端部署
加速大模型訓練和推理
支持多樣化的SuperPod解決方案，適用AIGC、AI4Science 及元宇宙等豐富場景

三、浪潮NF5688 G8服務器 規(guī)格參數(shù)