Altos BrainSphere™ Server R880 F8

Altos BrainSphere™ R880 F8 AI 伺服器

Altos BrainSphere™ R880 F8 專為生成式 AI、大型語言模型(LLMs)、高效能運算(HPC)及進階資料分析等密集型工作負載打造。系統採用 NVIDIA HGX™ B300 平台,搭載雙顆 Intel® Xeon® 6700/6500 系列處理器、DDR5 記憶體及 及 8 顆 NVIDIA Blackwell Ultra GPU,在高度整合的 8U 機架設計中提供強大的 AI 運算能力,支援從模型訓練、微調到即時推論的完整 AI 工作流程。透過高吞吐量與高效率的 Token 產出能力,持續提升 Tokens per Second、Tokens per Watt 與 Tokens per Dollar,協助企業加速 AI Factory 規模化部署,提升基礎架構使用效率並最大化整體投資效益。

產品特點

卓越 AI 與 HPC 計算平台效能

R880 F8 採用 NVIDIA HGX™ B300 平台,透過 NVIDIA NVLink™ 與 NVLink™ Switch 技術,提供最高 1.8 TB/s GPU-to-GPU 高速互連頻寬,大幅提升多 GPU 協同運算效率。搭配超過 2.3 TB HBM3e GPU 記憶體與高達 64 TB/s 整體 GPU 記憶體頻寬,可支援更大型 AI 模型、更長 Context Length,以及生成式 AI、LLM 訓練、推論與 HPC 等高強度工作負載。

高速網路、彈性擴充與儲存保護,加速 AI Scale-out 部署

R880 F8 整合 NVIDIA ConnectX®-8 SuperNIC™,提供 8 組 GPU 高速網路介面,支援最高 800 Gb/s XDR InfiniBand 或雙 400 Gb/s Ethernet,滿足大型分散式 AI 訓練與推論所需的高速 Scale-out 網路需求。
系統並提供 8 組 2.5 吋 PCIe Gen5 NVMe、2 組 M.2 PCIe Gen5,以及 4 組 FHHL PCIe Gen5 x16 擴充插槽。在儲存資料保護方面,可支援新世代 GRAID SupremeRAID™ AE GPU 加速 NVMe RAID,透過 GPU 加速 RAID 運算,在維持高速 NVMe 儲存效能的同時提供資料保護;亦可搭配 RAID 擴充卡與最多 4 顆 M.2 NVMe SSD,建構 RAID 0、1 或 10 儲存架構。多元的網路、儲存與 RAID 配置能力,可依 AI、HPC 與雲端基礎架構需求彈性部署。

集中化管理、智慧運維與 AI 工作負載最佳化

R880 F8 搭載 ASPEED® AST2600 BMC,提供完整的遠端監控與系統管理能力,協助 IT 團隊即時掌握系統健康狀態、電源與散熱資訊。
結合 Altos aiWorks AI 運算平台與 Altos Smart Server Manager(ASSM),可進一步整合 GPU 資源管理、工作負載調度、系統監控與 AI 開發部署流程,強化大型 AI 基礎架構的集中化管理與智慧運維,提升系統資源利用率、營運效率與整體投資效益。

規格

Altos BrainSphere™ R880 F8 AI
Altos BrainSphere™ R880 F8 AI

Altos BrainSphere™ R880 F8 AI

  • 處理器:搭載雙顆第 6 代 Intel® Xeon® 可擴充處理器,單顆 TDP 最高達 350W
  • 電源供應器:採用6+6 3000W 80 PLUS Titanium redundant電源供應器
技術規格
Processors 搭載雙顆第 6 代 Intel® Xeon® 可擴充處理器,單顆 TDP 最高達 350W
Number of Processor 2
GPU NVIDIA HGX™ B300 搭載 8 顆 NVIDIA Blackwell Ultra GPUs
Memory 提供 32 個 DIMM 插槽,最高支援 4TB ECC DDR5 6400 MHz 記憶體
Expansion Slots 4 組 FHHL 雙槽 PCIe Gen5 x16 插槽
Network 8組800 Gb/s XDR InfiniBand / 雙 400 Gb/s Ethernet (NVIDIA ConnectX-8 SuperNIC)
2 組 10GbE(支援 NCSI)
2 組 1GbE 管理用網路埠
Storage 最多支援 8 顆 2.5 吋 NVMe(可熱插拔)
2 組 PCIe Gen5 M.2 2280/22110 插槽
Power Supply 採用6+6 3000W 80 PLUS Titanium redundant電源供應器
OS Support 支援Microsoft® Windows Server、Red Hat Enterprise Linux、Ubuntu Server LTS
Dimension 447(深)× 351(寬)× 923(高)mm
  • 規格與延長保固服務可能會依國家不同而有差異。請聯絡Altos以取得更多資訊。