深圳国际数学中心高性能GPU服务器成交公告

是否接受进口

拒绝进口

品牌

更历

型号

GL4528A

生产厂商

**市更****公司

产地信息

**

技术规格及参数

1.1 CPU：配置2颗AMD EPYC 9004 Genoa处理器，单颗不少于96核192线程/单颗基础主频不少于2.4GHz，单核最大加速 3.7GHz，L3 缓存 384MB，TDP 360W，整体性能不低于当前配置处理器；
1.2 内存：配置2条64GB DDR5 RDIMM 5600MHz频率内存 ,内存总容量≥128G，24插槽最大支持4096GB；
1.3 SSD固态（系统盘）：配置2块960G NVME PCI-E 5.0 U.2 企业级固态硬盘；
1.4 SSD固态（数据盘）：配置2块7.68T NVME PCI-E 5.0 U.2 企业级固态硬盘；
1.5 Raid卡：配置 Broadcom 9560-16i RAID 卡，板载 8GB 缓存，支持 RAID 0/1/5/10/6/50/60；SAS/SATA 介质最大接入 240 块存储设备，支持 SAS/SATA/NVMe 介质接入，配置 CacheVault 断电缓存保护模组，保障数据写入安全；
1.6 显卡:AI加速卡 X1，单卡显存不少于80GB 不低于HBM2e，支持硬件 ECC 纠错，CUDA 核心 14592 个，Tensor Core 456 个，显存带宽 2000GB/s；功能特性：支持 MIG 多实例 GPU，支持 NVLink，支持 CUDA、cuDNN，支持大模型分布式训练；支持 FP8 混合精度训练及推理
1.7 机型：6U高性能GPU服务器机箱，支持双路AMD EPYC 9004/9005（SP5 LGA6096）系列处理器，单插槽TDP支持500W；支持8张双槽全高全长GPU卡，单卡功耗支持600W；配套N+1冗余散热模组，可保障8张600W GPU满负载稳定运行；配置24个DDR5 RDIMM内存插槽，整机最大可扩展至4TB；配置8个2.5英寸热插拔硬盘位；PCIe扩展插槽合计10个PCIe 5.0，其中9个为PCIe 5.0 x16规格；配置4个2700W 80PLUS钛金高效电源，支持N+1冗余；电源、风扇、硬盘均支持热插拔，支持硬件故障隔离与在线远程管理；配置ASMB12-iKVM BMC远程管理模块，独立管理网口，提供HTML5图形化Web管理界面，登录页即可展示远程KVM、硬件温度/功耗监控、远程开关机、故障告警，支持管理平台批量服务器运维；支持远程KVM、虚拟介质、BIOS远程更新；配备Mini-DP本地显示输出接口，支持本地可视化调试；支持IPMI 2.0、Redfish协议及基于数字证书（RSA/ECDSA）的身份认证。附带原厂导轨；
1.8 网卡：配置双口 10GE SFP + 万兆以太网网卡，支持万兆高速数据传输，满足多机分布式训练、模型推理数据交互需求；
1.9 随服务器配套提供AI网关管理软件1套，支持以下功能：
1）交付全套指定AI软件栈：Prometheus监控组件、SGlang 0.5.21、Unsloth Studio、TensorFlow 2.15.3、PyTorch 2.2.3，配套对应版本CUDA、TensorRT、cuDNN，提供正版授权与部署文档；
2）多模型统一接入：支持不少于5****模型厂商API接入，兼容所有符合OpenAI接口规范的自建或第三方推理端点（含本项目自建推理服务）；新增或更换模型仅需配置访问地址与密钥即可完成接入；
3）多协议兼容与互转：支持OpenAI Chat Completions、OpenAI Responses、Anthropic Messages、Google Gemini协议，支持不少于三类协议之间请求、响应、流式格式互转；支持流式输出、工具调用、多模态输入；支持Embeddings、Rerank、图像生成、语音转写与语音合成接口，生成类请求可按异步任务统一查询状态与结果；
4）智能调度与熔断策略：支持模型别名重定向映射；同一模型可配置多渠道、多密钥；支持按优先级、权重负载调度；调用失败自动重试并切换备用渠道，支持跨分组重试；连续失败渠道自动熔断下线，支持自动恢复；支持按令牌或模型维度的会话-渠道亲和策略；支持请求体透传开关、按字段路径参数改写，用于处理不同上游对同一协议字段的差异；
5）权限与令牌管理：内置普通用户、管理员、超级管理员三档角色，对渠道类**区分读取、操作、普通写入、敏感写入、查看密钥五类动作，可对管理员账号逐项设置权限覆盖；用户、分组、令牌三级授权体系；分组绑定可用渠道与计费倍率；用户可自助创建、编辑、启停与删除访问令牌（密钥），单个令牌可设定额度上限、过期时间、可用模型范围、所属分组与IP白名单，支持独立吊销；管理员可直接调整用户配额；支持按模型维度和按令牌维度设置请求速率限制；
6）身份认证与安全：支持账号密码登录、密码重置、登录会话管理、两步验证与Passkey；支持标准OIDC（OAuth 2.0）对接采购人统一身份认证平台，采购人身份源不提供该协议时协议转换由采购人侧完成；密钥、令牌存储、页面展示、接口响应均掩码展示，不以明文输出；
7）计费与用量统计：支持输入/输出Token分开计价、按次计费两种模式；模型倍率、补全倍率、缓存倍率、阶梯价格支持管理员在线配置即时生效；支持按用户、分组、令牌多维度用量、费用统计，无需二次开发；提供模型调用分析、分流与用量费用看板，以及模型定价与可用状态、模型与供应商用量排名展示，并提供系统负载、渠道性能与响应时间监控；
8）日志、审计与看板：调用日志与异步任务日志仅记录计量与性能字段（时间、操作用户账号、令牌/密钥标识、请求模型、实际渠道、输入输出Token数、耗时、状态码、失败原因类别），不存储提示词、音视频、模型返回内容；平台如默认留存请求或响应内容，提供配置项予以关闭；日志留存≥6个月，支持按请求、模型、状态、Token数、耗时、错误与计费条件多条件检索、分页、CSV（或可导入电子表格格式）导出；提供请求量、费用、耗时可视化看板；支持数据库归档；
9）底层架构与扩展：容器化交付，提供镜像与编排文件；兼容MySQL≥5.7、PostgreSQL≥9.6；支持Redis实现共享限流，多副本水平扩展后限流与额度扣减保持一致；兼容HTTPS反向代理下的流式响应、WebSocket；开放管理侧API及接口文档；原生兼容DeepSeek、通义千问等主流大模型，支持智能体开发API接入；
10）数据安全约束：全部配置、密钥与日志存储于采购人自有环境且不回传第三方；除向采购人指定的上游服务转发请求外，平台不留存用户的输入与输出内容，不将其用于模型训练、样本库建设或任何形式的二次利用。

质保期

自产品交货且验收合格之日起3年质保。

售后要求

提供原厂3年保修，保证全年7*24小时响应服务，5年免费技术服务，出厂时注明采购单位名称为：****，中途不作任何形式的拆封，提供原厂技术工程师上门进行安装实施服务。