大模型服务器及应用平台本地化部署项目更正公告

序号

内容

分值

评分标准

备注

2

产品技术指标

52

1、“▲”条款响应得分规则如下：

“▲”条款响应得分=(投标人满足“▲”条款的数量÷“▲”条款的总数量)×25分。

2、无符号条款响应得分规则如下：

无符号条款响应得分=(投标人满足无符号条款的数量÷“无符号”条款的总数量)×15分。

注意：①得分保留小数点后两位小数，四舍五入。

②标注“★”的条款为本项目实质性要求，不作为本项评审。

3、为保障用户对大模型的使用效果，国产大模型节点的设备原厂商需具备大模型应用和调优能力，并提供调优服务。投标时需提供国产万卡集群上的实测性能结果和数据，包含详细的测试模型介绍、并行训练策略、集群性能等；投标时提供完整****设备厂商公章得1分，不提供不得分；

4、投标大模型服务器所配置的单张算力加速卡性能（以官方公开可验证参数或第三方检测报告为准），本项最多得3分：

（1）单卡FP16算力≥300 TPFLOPS且≤400 TPFLOPS：得1分；

（2）单卡FP16算力＞400 TPFLOPS，得3分。

5、投标大模型服务器所配置的单张算力加速卡的卡间互联带宽性能（以官方公开可验证参数或第三方检测报告为准），本项最多得1分：

(1）卡间互联带宽≥500GB/S，得0.5分:

(2）卡间互联带宽≥>700GB/S，得1分：

6、所投产品整机性能要求在50个以上并发下，运行

deepseek671B-R1 INT4模型，平均会话输出速度在10tokens/s以上，总吞吐不低于2200tokens/s，得2分。《提供测试截图证明）。

7、投标大模型需提供对主流深度学习框架的运行支持能力，确保模型开发、训练与推理的兼容性（投标时提供完整****设备厂商公章得分，不提供不得分），本项最多得2分：

（1）支持类CUDA环境，支持国际主流深度学习框架（如TensorFlow和PyTorch），得2分；

（2）支持国产主流深度学习框架（如MindSpore）,得1分。

8、算力卡能支持虚拟化调度功能，实现GPU**动态划分与分配。投标时提供完整的测试报告并加盖厂商公章得1分，不提供不得分；

9、服务器电源总功率需≤10千瓦，投标时提供完整****设备厂商公章，得1分，否则不得分。

10、保障兼容性更好、处理器性能更优，CPU和CPU芯片厂家为同一厂家，投标时提供完整****设备厂商公章，得1分，否则不得分。

序号

内容

分值

评分标准

备注

2

产品技术指标

52

1、“▲”条款响应得分规则如下：

“▲”条款响应得分=(投标人满足“▲”条款的数量÷“▲”条款的总数量)×25分。

2、无符号条款响应得分规则如下：

无符号条款响应得分=(投标人满足无符号条款的数量÷“无符号”条款的总数量)×15分。

注意：①得分保留小数点后两位小数，四舍五入。

②标注“★”的条款为本项目实质性要求，不作为本项评审。

3、为保障用户对大模型的使用效果，国产大模型节点的设备原厂商需具备大模型应用和调优能力，并提供调优服务。投标时需提供国产万卡集群上的实测性能结果和数据，包含详细的测试模型介绍、并行训练策略、集群性能等；投标时提供完整****设备厂商公章得1分，不提供不得分；

4、投标大模型服务器所配置的单张算力加速卡性能（以官方公开可验证参数或第三方检测报告为准），本项最多得3分：

（1）单卡FP16算力≥300 TPFLOPS且≤400 TPFLOPS：得1分；

（2）单卡FP16算力＞400 TPFLOPS，得3分。

5、投标大模型服务器所配置的单张算力加速卡的卡间互联带宽性能（以官方公开可验证参数或第三方检测报告为准），本项最多得1分：

(1）卡间互联带宽≥500GB/S，得0.5分:

(2）卡间互联带宽≥700GB/S，得1分：

6、所投产品整机性能要求在50个以上并发下，运行

deepseek671B-R1 INT4模型，平均会话输出速度在10tokens/s以上，总吞吐不低于2200tokens/s，得2分。《提供测试截图证明）。

7、投标大模型需提供对主流深度学习框架的运行支持能力，确保模型开发、训练与推理的兼容性（投标时提供完整****设备厂商公章得分，不提供不得分），支持类CUDA环境，支持国际主流深度学习框架（如TensorFlow和PyTorch），得2分。

8、算力卡能支持虚拟化调度功能，实现GPU**动态划分与分配。投标时提供完整的测试报告并加盖厂商公章得1分，不提供不得分；

9、服务器电源总功率需≤10千瓦，投标时提供完整****设备厂商公章，得1分，否则不得分。

10、保障兼容性更好、处理器性能更优，CPU和GPU芯片厂家为同一厂家，投标时提供完整****设备厂商公章，得1分，否则不得分。