深圳国际数学中心高性能GPU服务器采购公告

是否接受进口

拒绝进口

品牌

Supermicro、技嘉、更历

型号

AS-5126GS-TNRT、G493-ZB4-AAP1、GL4528A

技术规格及参数

主机：支持双路 AMD EPYC 9005/9004 系列，单插槽 TDP 最高 500W；支持最多 8 张双槽全高全长 GPU，单卡功耗支持高达 600W；支持24 个 DIMM 插槽，支持 DDR5 内存，最高频率 6400MHz；支持 8 个 或以上2.5 英寸热插拔硬盘位；支持 10 个或以上 PCIe 5.0 插槽，其中至少9个插槽支持PCIE5.0X16；提供N+1冗余散热模块，支持8张600W GPU满载运行，搭载BMC远程接口CPU:搭载2颗处理器 单颗≥96核192线程/主频≥2.4GHz/单核最高加速频率:3.7GHz/L3缓存≥384MB/功耗≥360W，单颗处理器提供128条PCIE5.0通道，支持12通道DDR5内存，或同等及以上性能配置;内存:总容量≥ 128G， 频率≥5600hz 支持RDIMM，总容量最大支持≥4096G;系统盘：≥两块960G 2.5寸 NVME GEN5企业级固态 ;数据盘: ≥两块7.68T 2.5寸 NVME GEN5企业级固态 ;Raid卡:支持:RAID0,1,5,10; 支持最**接240块硬盘，缓存≥8GAI加速卡: AI 训练加速卡 ×1，显存 ≥80GB HBM2e 以上，支持硬件 ECC 纠错，CUDA 核心：≥14592 个，Tensor Core ≥456 个，显存带宽：≥2000GB/s，功能特性：支持 MIG 多实例 GPU，支持 NVLink，支持 CUDA、cuDNN，支持大模型分布式训练；支持 FP8 混合精度训练及推理电源:≥4*2700瓦电源;支持N+1冗余网卡:≥双口10GE-SFP+万兆网口提供图形化Web管理界面，登录页即可展示远程KVM、监控硬件温度/功耗、远程开关机、故障告警、管理平台支持批量服务器运维;维护，保障业务系统持续运行;电源、风扇、硬盘支持热插拔，支持硬件故障隔离与在线远程管理支持基于数字证书(RSA/ECDSA)的访问认证。提供全套正版软件：GPU服务器Prometheus监控软件、SGlang 0.5.21、Unsloth Studio、TensorFlow 2.15.3、PyTorch 2.2.3开发软件、完整配套CUDA、TensorRT、cuDNN全套AI软件栈。提供AI网关管理软件1套，支持任意 OpenAI 接口规范的自建或第三方端点（含本项目自建推理服务）的统一接入，客户端仅调整访问地址与密钥即可新增或更换模型；支持流式输出、工具调用与多模态输入，支持图像生成、语音合成、语音转写、文本向量化与重排接口，生成类请求可按异步任务统一查询状态与结果；支持调用失败自动重试并切换备用渠道、连续失败渠道自动下线与恢复、跨分组重试，并支持按令牌或模型维度的渠道亲和；支持请求体透传开关与按字段路径的参数改写，用于处理不同上游对同一协议字段的差异；内置普通用户、管理员、超级管理员三档角色，对渠道类**需区分读取、操作、普通写入、敏感写入、查看密钥五类动作，并可对管理员账号逐项设置权限覆盖；支持账号密码登录、密码重置、登录会话管理、两步验证与 Passkey，并支持以标准 OAuth 2.0 或 OIDC 方式对接采购人统一身份认证，采购人身份源不提供该协议时协议转换由采购人侧完成；支持用户自助创建、编辑、启停与删除访问密钥，单个密钥可设定额度、过期时间、可用模型范围、所属分组与 IP 白名单；支持管理员直接调整用户配额；提供调用日志与异步任务日志，支持按请求、模型、状态、Token 数、耗时、错误与计费条件检索、分页与通用格式（CSV 或可导入电子表格的格式）导出，日志仅记录性能与计量信息，字段限于时间、操作用户账号、密钥标识、请求模型、实际渠道、输入输出 Token 数、耗时、状态码与失败原因类别，平台默认留存请求或响应内容的须提供配置项予以关闭，日志支持不少于6个月的留存与查询；提供模型调用分析、分流与用量费用看板，以及模型定价与可用状态、模型与供应商用量排名展示，并提供系统负载、渠道性能与响应时间监控；容器化交付并提供镜像与编排文件，主数据库支持 MySQL 版本不低于5.7 或 PostgreSQL 版本不低于9.6，支持 Redis 用于共享限流，多副本水平扩展后限流与额度扣减保持一致，支持 HTTPS 反向代理下的流式响应。

质保期

自产品交货且验收合格之日起3年质保。

售后要求

供应货物须为全新原装，GPU服务器****大学，所有配置由原厂预装出厂。送货中途无任何形式的拆封，为保障售后服务质量，安排原厂技术工程师上门进行安装调试，提供7*24小时技术咨询服务，产品提供三年免费质保，提供五年免费技术服务。