随着业务的发展和科研的深入,我院对高性能计算和数据处理能力的需求日益增长。Deepseek满血版作为一款强大的人工智能模型,能够为我们的业务拓展和研发能力带来显著的提升和创新。为了确保该模型能够稳定、高效地运行,现计划开展“Deepseek满血版运行服务器采购”。为确保采购过程的公开、公平、公正,现面向社会发布询价公告,诚邀符合条件的供应商参与本次询价活动。
****
Deepseek满血版运行服务器采购
本次采购旨在获取性能卓越、稳定性高且具备良好扩展性的服务器,以满足Deepseek满血版的运行需求,确保模型训练、推理等任务能够顺利进行,同时兼顾未来业务拓展的需要。
初步计划采购1-4台物理服务器,后续可根据实际使用情况和业务发展需求进行增减。
| 评估项 |
评估指标 |
参考参数 |
| CPU |
CPU核心数 |
≥48核 |
| CPU主频 |
≥2.2GHz |
|
| 内存 |
内存容量 |
≥512GB |
| 内存速率 |
≥3200MHz |
|
| 存储 |
存储类型 |
SSD企业级 |
| 存储大小 |
≥6TB |
|
| Raid |
Raid0,1,5,10,50等 |
|
| 网络 |
网络性能 |
≥10Gbps |
| 推理性能(基于vllm测试结果) |
吞吐量(tokens/s) |
≥300tokens/s |
| 延迟(TTFT/TPOT) |
TTFT<100ms |
|
| 并发能力 |
≥30并发 |
|
| 上下文长度(序列长度) |
≥4096 |
|
| 模型精度 |
FP16/BF16 |
|
| 软件优化 |
模型支持 |
DeepSeek R1/V3、Qwen3等 |
| 软件功能 |
软件需采用模块化架构,预装以下组件: 预装操作系统,须****测评中心的安全可靠测评,满足《财政部、工业和信息化部关于印发的通知》(财库〔2023〕34号)的附件“****政府采购需求标准(2023年版)”中全部加*指标要求; 推理引擎(如VLLM、SGLang等); 模型(如DeepSeek V3、DeepSeek R1等); 提供算力**管理、模型管理、通用智能体开发平台(如Dify、N8N、RagFlow等); OpenWebUI交互界面(支持API调用与对话测试); 支持推理服务不中断条件下,进行推理实例的增加与删除,实现不间断服务扩缩容能力。 以上组件出厂前完成系统调优、驱动适配及软件集成,用户上电后无需手动配置即可启动模型推理服务。供应商须提供对应的承诺函。 |
|
| 服务 |
用户支持与服务 |
定期模型更新、安全补丁、提供容灾备份方案、保证系统7*24小时不间断运行; 服务器提供不少于3年硬件原厂维保,软件首次安装部署服务,1年软件技术支持服务。 |
具有独立法人资格,具备合法有效的营业执照、税务登记证和组织机构代码证,经营范围应涵盖服务器设备的销售、安装与售后服务等相关内容。
具备丰富的服务器设备销售和服务经验。
具备良好的商业信誉和健全的财务会计制度,能够开具符合国家规定的增值税专用发票,在经营活动中没有重大违法记录。
具有专业的技术团队和完善的售后服务体系,能够在本地提供及时、高效的安装、调试、培训及售后技术支持服务,确保服务器设备在交付使用后能够稳定运行,并能够及时解决可能出现的各种问题。
1.报价单位应仔细阅读询价须知内容,参照《Deepseek满血版运行服务器采购报价单模板》(见附件)内容格式,用A4幅面纸张打印装订。
2.报价单位应提供营业执照或法人证书复印件。
3.报价单位负责整理全部报价资料。
4.报价人应自行承担与报价有关的一切费用。
纸质报价资料须密封装订,于2025年6月13日17:00时前邮寄至**市****研究院(**市**区锦盛路2号煦华国际1栋****601室),逾期送达或者未送达指定地点的报价文件不予受理。
不方便邮寄报价资料的,可于2025年6月13日17:00时前将资料原件扫描版发送至电子邮箱****@126.com,邮件标题应备注单位名称。
联系人员:胡老师、范老师
联系电话:028-****1757、028-****9885
联系地址:**市**区锦盛路2号煦华国际1栋****601室