九〇三医院AI算力一体机（671B推理型）项目市场调研公告

****AI算力一体机（671B推理型）项目市场调研公告

一、项目名称：AI算力一体机（671B推理型）

二、采购人：****

三、调研内容：

（一）项目概述

人工智能技术已成为驱动医疗创新的核心引擎。目前我院多个科室已明确提出亟需AI算力支撑的关键应用场景，在临床诊疗、医疗质量与安全管控、运营管理、患者服务等方面的人工智能应用需求。

（二）核心目标

1.构建稳定高效的算力基座,满足采购人现有医疗 AI 软件的运行需求,解决医院目前算力问题,保障多用户并发使用的稳定性。

2.搭建智能化算力管理平台,实现对算力**的全维度监控、精细化调度与高效运维,提升算力**利用率,降低管理成本。

3.建设一站式 AI 开发平台,支持医疗 AI 模型的自主开发、微调、评估与部署,助力采购人建立专属医疗 AI 模型库,提升科研与临床创新能力。

4.确保整个平台符合国产自主可控要求,保障医疗数据安全与系统稳定运行,满足医疗行业合规性要求。

5. 平台应具备部署DeepSeek-R1（参数量671B）或DeepSeek-V4-Flash（参数量284B）能力

(三) 技术要求

1.设备配置

国产AI算力一体机（1套），包括2台算力服务器、1套算力管理平台和1套智能体AI开发平台。

序号	货物名称	数量
1	算力服务器	2台
2	算力管理平台	1套
3	智能体AI开发平台	1套

算力服务器为底层硬件载体。算力管理平台为中间调度层，向下对接算力服务器硬件，向上为开发平台提供标准化、可按需调用的算力服务。智能体AI开发平台为上层应用层，基于调度好的算力**，封装大模型能力、开发框架、低代码工具，快速完成智能体的搭建、部署与运营。

2.单台算力服务器需求

（1）产品规格：4U机架式服务器。

（2）国产兼容性：采用国产自研AI芯片，至少可支持PyTorch或TensorFlow或PaddlePaddle深度学习框架的适配要求。可部署运行Qwen、DeepSeek等大模型。

（3）CPU：配置≥4颗国产技术架构CPU，单颗CPU主频≥2.6GHz，单颗核数≥48。

（4）NPU：配置≥8颗AI处理器，单颗提供≥280TFLOPS FP16，总计提供算力≥2.2PFLOPS FP16 ；单颗处理器显存≥64GB HBM，总计提供512GB HBM显存。

（5）内存：配置≥1024 GB DDR4 ECC内存，内置≥32个内存插槽。

（6）硬盘：系统盘配置≥2块960GB SATA SSD（RAID 1）；数据盘配置≥4块3.84TB NVMe SSD。

（7）互联带宽：8路AI处理器总互联带宽不低于390GB/s。

（8）网络：配置≥4口10GE/25GE光口网卡;配置≥8口200GE光口网卡（可实现AI处理器直出200G RoCE 网络接口保证节点间互联带宽)，含配套的光模块和配套的光纤线缆。

（9）电源：配置 4 块 ≥2600W 交流电源模块，采用 2+2 冗余供电模式，单路市电输入中断，系统可维持正常运行，不停机。

3.算力管理平台需求

算力管理平台与本次采购算力服务器配套，实现算力统一管理。支持算力全维度监控、智能调度、模型兼容与运维管理，具备权限治理、安全审计及异构算力管理能力。具体要求如下：

（1）具有算力**监控功能，支持对节点级的CPU、内存、磁盘、网络及加速卡（显存、算力、温度、功耗）进行全维度、高精度的实时监控。

（2）具备实例级全栈监控功能，涵盖 Prefill/Decode 均值耗时、TTFT 及端到端延迟分布；实时统计请求/响应 Tokens 吞吐，并实现业务指标与底层算力（显存、算力、CPU、内存）的多维关联分析。

（3）具有网关API调用追踪与Token消耗统计功能。通过可视化指标矩阵（分布饼图、趋势折线等），提供覆盖用户、模型及网关实例的多用户用量画像与流量分析。

（4）具备全栈式模型兼容能力，覆盖从生成式（文本/图像）到原子能力级（Embedding/Rerank/OCR/语音文字转换等）的多元模型生态，具备模型权重的自助化前端上传及版本演进管理功能。

（5）集成多栈推理加速引擎（包含针对国产算力的 MindIE ****社区的vLLM/SGLang/Text-Embedding-Inference 等），原生支持全场景推理拓扑（单机单卡、单机多卡、多机多卡、多机PD分离等），支持模型实例基于算力拓扑的按需定义与**精细化配额。

（6）内置模型画像引擎，可自动识别模型结构与规模，结合不同硬件兼容性矩阵映射，实现推理**（卡数、显存、内存、CPU）的精准量化评估与部署方案**推荐。

（7）构建全渠道模型路由矩阵：实现主流大模型（如Qwen、DeepSeek等） API 的快速接入与封装，配合网关实现请求分发、限流熔断及 Token 级用量监控，屏蔽底层服务差异。（8）具备企业级权限治理能力：原生支持多组织层级与接口级自定义权限角色；支持**池化管理模式，支持算力**按组织需求细化为**组。

（9）具备镜像、模型权重及第三方模型的统一纳管与全生命周期管理功能，通过细粒度权限控制实现跨组织的**可见性管理与隔离共享。

（10）具备全链路操作审计功能，完整记录操作人、时间戳、状态码、源 IP、请求方法/路径及关键报文（请求与响应体），确保行为可追溯。

4.智能体AI开发平台需求

一站式智能体AI开发平台，具备算力管理、模型管理、训练评估、知识库管理功能，可实现智能体AI模型一键部署。具体要求如下：

（1）提供的智能体AI开发平台具备AI模型及知识库管理功能，可与本项目AI算力一体机适配。确保智能体AI开发平台与算力一体机的兼容性与稳定运行。

（2）具备分片在线编辑功能；具备对PDF分片重新标注修改；具备知识分片（）与原文内容一一对照，支持对标题、页眉页脚、目录、公式、印章等内容的识别和勾选过滤；具备对已处理完的知识分片进行批量目录迁移；具备对知识分片进行共享和移动，可限制共享后是否允许二次传递；具备知识库的知识补充：具备批量导入手工QA对，支持业务术语定义，并可在测试中查看补充结果；具备知识库导出，同时支持导入外部知识库；具备基于多知识库生成知识图谱：具备对知识图谱的生成进度、消耗Token数量实时显示；具备对图谱生成任务进行暂停、继续操作，提供知识图谱的版本管理。

（3）支持.pdf、.docx、.doc、.wps、.ofd、.xlsx、.xls、.ppt、.pptx、.txt、

.markdown、.csv、.png、.jpg、.jpeg、.bmp、.tiff、.tif、.webp、.html等扩展名的非结构化文档创建企业知识库。

（4）支持ODBC、JDBC等通用数据接口协议连接数据库，可对接MySQL、PostgreSQL、达梦等主流数据库，实现结构化数据源对接，可查看连接状态与预览数据；支持智能问数智能体，支持不少于5张数据库表的同时调用。

（5）具备角色管理功能，采用操作权限+数据权限双管控。具备菜单目录级别的操作权限管理，可分别对每一菜单的操作项进行设置权限；具备用户+功能的数据权限管理，支持对每一条数据设定可查看、操作、删除的用户，支持批量设置。

5.其他要求

1.至少部署一个开源的通用大模型（如千问、DeepSeek等）。

2.该项目安装过程中需要用到的电源和光纤跳线、线路标签等辅材和人工由供应商提供，费用包含在本项目报价中，不再单独计费。

三、潜在意向供应商报名资料要求：

1.市场调研报名表（格式详见公告附件1）；

2.市场调研承诺函（格式详见公告附件2）；

3.公司资格证明文件（①供应商是企业（包括合伙企业）的，应提供其在工商部门注册的有效“营业执照”或“企业法人营业执照”复印件；②****事业单位的，应提供其有效的“事业单位法人证书”复印件；③供应商是非企业专业服务机构的，应提供其有效的“执业许可证”复印件；④供应商是民办非企业单位的，应提供其有效的登记证书复印件；⑤供应商是个体工商户的，应提供其有效的“个体工商户营业执照”复印件；⑥供应商是自然人的，应提供其有效的自然人身份证明复印件。以上均提供复印件。）；

4.根据本项目服务内容提供的特殊资质证明文件（若有）；

5.市场调研授权书（格式详见公告附件3）；

6.根据本项目市场调研需求内容提供的价格清单及配置清单（格式详见公告附件4）；

7.同类项目参考案例（需提供相关佐证材料）；

8.本项目实施方案、保修及维护方案；

9.供应商认为还需提供的其他资料等。

说明：供应商按照上述顺序要求制作，纸质文件一正，胶装成册，编制页码并加盖鲜章，电子文档U盘一份（随报名资料一起递交），资料必须密封并在封面上注明供应商名称、项目名称、项目联系人、联系电话及联系邮箱。

四、其他说明

1.本次仅为采购前期市场调研与采购控制价编制参考，不构成正式招标采购行为。因参与市场调研所产生的一切费用由报名供应商自行承担，我院不支付任何相关费用。

2.报名资料一经接受，将不予以退还，采购人承诺保守报名供应商的相关商业秘密。

3.供应商需对其提交资料的真实性、合法性、完整性负责，若存在虚假申报、侵权等行为，我院将取消其参与资格，并依法追究相关责任。

4.本次市场调研活动坚持“公开、公平、公正、择优”原则，欢迎符合所有资质要求的供应商积极参与。

5.本次市场调研的相关事宜，****医院所有。

五、报名详情

1.报名时间：2026年9月18日上午8：00时至2026年9月23日下午17：30时（**时间，法定节假日除外）。

2.本项目接受现场递交与快递送达。

邮寄地址及现场报名地址：****后勤保障部（**省**市**市****段903五区12号楼3楼（从**医药**大药房旁楼梯上3楼）），联系人：蒲俊江、190****7120。

邮寄的报名资料递交时间以邮寄文件的签收时间为准。

六、凡对本次市场调研提出询问，请按以下方式联系

联系方式：蒲俊江、文诗洁0816-****009

地址：********中心（**省**市**干道中段****第三住院部****数据中心）

****

2026年09月17日

****AI算力一体机（671B推理型）项目市场调研公告附件.docx