Ali Deepseek Все-в-одном/2*8558P/2048G/240G+4*3.84T/16*96Gb видеокарта

AI Stack一体机（3年 5*8 NBD） 整机-14U配置（一台）：

CPU：2*[intel_Xeon_Platinum8558P] (48c,2.7GHz,x86_64,L3缓存260MB,支持DDR5内存,350W)；

内存：2048G(ECC DDR5 RDIMM 频率 ≥5600MT/s)；内存数量和插法需要满足当前机型BIOS中numa on/off的要求；

磁盘：1*240G[240G_sata_ssd]企业级SATA SSD硬盘；4*3840G[3840G_nvme_ssd],兼容支持标准 NVMe 协议（ 1.3及以上版本）；兼容支持spdk协议（17.10 及以上版本）；

磁盘控制器：满足机型磁盘配置以及盘序要求前提下,以下任一形式:1.板载磁盘控制器AHCI直出；SAS卡基于LSI SAS3808主控芯片的板卡或自研卡;3.RAID卡直通模式，基于LSI SAS3908主控芯片的板卡或自研卡;

GPU：单机配置≥16张GPU卡，整机显存≥1.5TB（单卡显存≥96G），支持700GB/s卡间高速互联，机间带宽1600GB/s，BF16算力≥1.9PFLOPS，实现BF16精度下模型推理，256并发吞吐≥3000 Tokens/秒，兼容CUDA通用AI算子和VLLM/Sglang框架，提供API及在线服务。

网卡：CX6 双口25GE以太网卡*1；

光模块：25G光模块*2(支持MCX512A-ACAT网卡即可)；

散热模式：风冷

电源模块：2KW双路电源模块*1，4KW双路电源模块*4（欧标）；220VAC/240HVDC交直流兼容电源，支持电源冗余；电源线根据机房环境来选择，如国标/美标/C14；主动式PFC；通过80plus白金认证；

整机功率：额定功率14KW，满载功率10.2KW；

监控及管理控制：提供基于Web的远程管理控制、配备硬件监控、远程管理功能；支持IPMI2.0标准。提供IKVM功能，实现远程KVM功能；独立管理口100%兼容千兆或百兆交换网络，通过管理口实现远程开关机、重启、网络安装操作系统等操作。

AI Stack GPU软件：

概览：⽤于展示当前节点概览信息，包括节点资源信息、服务器硬件资源⽤量统计（CPU、内存、GPU）、推理任务资源使⽤情况等。

模型仓库：⽤于管理模型⽂件，出⼚预置部分⾏业主流领域模型，⽀持展示模型资源与在线服务的关联关系。

镜像库：⽤于管理容器镜像，出⼚预置深度优化的容器镜像，⽀持展示容器镜像资源与在线服务的关联关系。

在线服务：提供⼤模型在线部署能⼒，可选不同硬件配置、模型，⽀持智能推荐、⾃定义配置等功能；提供模型体验功能，如⽂本模型，可提供在线chat对话，并且⽀持⻚⾯选择调⽤模型的相关参数。

节点监控：提供节点硬件监控信息，包括基础监控信息（CPU、内存使⽤率等）��各GPU卡相关监控信息，⾼频采集确保提供⽤户系统的实时运⾏状态并精确检测。

告警管理：提供节点级告警管理功能，实时展示机器硬件故障告警级别和具体内容，通过Prometheus实现秒级触发，并且区分告警严重等级。

节点管理：展示当前节点基本信息，可提供远程登录、密码修改、主机名修改等功能，节点管理功能通过执⾏定制化脚本，⽀持深度⽤户权限验证。

用户管理：提供⽤户管理功能，包括两个⾓⾊：管理员admin和普通⽤户user。

云平台交付服务包_敏捷版AIStack一体机_交付服务包：

客户需求调研：与客户进行沟通，明确AIStack部署前置条件准备、部署方案及使用需求

交付方案设计：根据需求调研结果，整理输出AIStack部署交付方案

机房工勘：根据AIStack一体机部署要求，进行机房环境工勘检查

上架布线：根据机房工勘结果，指导厂商完成硬件上架布线

产品部署：根据《AIStack单机版部署方案》，完成产品部署

产品测试：根据产品方案，完成AIStack单机版功能及性能测试

技术支持：支撑交付工程中的交付技术问题

客户培训：针对AIStack基本使用及维护内容，进行客户培训