****
AI智算设备采购项目智算卡POC测试征集公告
****(以下简称“商行联盟”或“征集人”)现就“AI智算设备采购项目”开展智算卡POC测试公开征集,诚邀符合资格条件的AI智算卡原厂商参与。
一、项目概况
(一)项目名称: AI智算设备采购项目
(二)基本情况
****AI智算设备采购项目准备启动,****商行联盟人工智能算力基础设施建设,评测AI智算卡的综合能力表现,满足后续智算设备采购需要,****商行联盟需求的AI智能智算卡设备,保证联盟需求场景的正常落地,现征集优质的AI智算卡原厂商进行本次智能算力卡POC测试。
本次****商行联盟后续智算设备采购选型、商务谈判、招标采购的重要技术参考,不构成采购邀请、采购承诺。
(三)测试设备基本技术要求
| 技术指标 |
最低技术要求 |
| 主机要求 |
单机支持8卡及以上;采用信创架构(海光/鲲鹏/飞腾); |
| 显存要求 |
智算卡单卡配置不少于96GB物理HBM显存,支持ECC错误检测和纠正。 要求:不得将主机内存、共享内存或其他卡的显存计入单卡容量 |
| 显存带宽要求 |
显存带宽决定模型吞吐的速度。单卡理论显存带宽不低于2 TB/s。 |
| 卡间互联要求 |
支持至少4卡高速互联。在交付的4卡拓扑下,每卡专用互联端口双向带宽之和不低于200GB/s。 须说明单向/双向、单链路/端口合计口径,并提供拓扑图。 |
| 多卡并行要求 |
支持张量并行(TP)、数据并行(DP)、多实例部署及必要的集合通信,提供点对点通信和AllReduce等实测结果。 |
| 网络要求 |
配置不少于2个100GbE接口及配套连接组件。涉及跨节点分布式推理时,须支持RDMA/RoCEv2,并提供对应方案。 |
| 算力要求 |
单卡稠密FP8或MXFP8理论峰值不低于700 TFLOPS。 要求:不得计入结构化稀疏加速倍率,不得以FP4、INT8或整机累计算力替代。须说明具体格式、计算单元及统计口径。 支持BF16/FP16计算,其中单卡BF16/FP16稠密矩阵计算理论峰值不低于350TFLOPS。 要求:不得采用结构化稀疏加速倍率计算。 |
| 原生支持FP8 |
智算卡必须支持硬件原生FP8或MXFP8,选择支持FP4或MXFP4矩阵运算精度,供应商须提供FP8模型权重的实际部署方案,如果支持FP4精度权重,可同步做出说明。 要求:仅支持 FP8权重存储、加载后转为BF16/FP16执行矩阵计算的方式,不视为满足原生FP8要求。 |
(四)测试内容方法
本次测试遵循“统一模型、统一样本集、统一指标、统一脚本、统一计量口径”原则,客观验证智算芯片/智算卡在指定场景下的真实表现。
本次计划测试的模型主要为 Qwen系列、GLM系列、DeepSeek系列等主流模型,具体测试模型系列、精度、权重版本、上下文、并发数等以现场测试方案要求为准。
本次项目测试周期为5个自然日,采取两轮测试,第一轮为基础测试,测试期间供应商不得进行参数调整;第二轮为调优复测,仅提供一次调优测试机会。测试结果以测试结束时,经认定的最终测试结果为准。
本次测试不单独预留设备部署调试时间,请参与测试的供应商及时开展测试环境准备工作。
本次测试覆盖芯片核验测试、推理能力测试、稳定性测试三个部分。具体测试内容及要求如下:
1、芯片核验测试
主要核对测试芯片/智算卡,及整机配置参数与响应的参数清单是否一致。
2、整机推理能力测试
验证不同参数量的模型在不同并发场景下的TTFT、Token生产速度、吞吐量、时延、请求成功率。
1) 测试数据集
本次压测使用已固化的非真实客户数据集,覆盖文本、多轮会话、编码三类业务形态,数据集一经确定,测试全程不再改动。
2) 测试场景及并发设计
本次计划测试的场景及并发梯度设计如下,具体评测以测试用例为准。
表2 测试场景及并发梯度设计
| 场景 |
并发梯度 |
每档请求数 |
| 短输入长输出 |
1、5、10、20、50、80、100 |
500 |
| 长输入长输出 |
1、5、10、20、30、50 |
500 |
| 长输入短输出 |
1、5、10、20、50、100、150、200 |
1500 |
| 图文长答(多模态) |
1、5、10、20、30、50 |
按数据集实际 |
| 通用多轮会话 |
2、4、8 |
64 |
| 短代码多轮 |
2、4、8 |
64 |
| 中代码多轮 |
2、4 |
32 |
| 长代码多轮 |
2、4 |
16 |
3、稳定性测试
稳定性测试采用混合数据集使用20-120并发进行不少于24小时的压力测试,关注是否存在掉卡、死机、显存泄露、算力衰减、异常重启。
参与测试的供应商应按天向征集人归档测试结果、测试过程截图、录像等数据。
1. 参与测试的供应商及相关人员不得对外披露测试过程、测试数据、****商行联盟内部信息。
2. 参与测试的供应商须保证所提供的的材料真实、合法、有效,不得提供虚假数据或虚假参数。
3. 测试期间,参与测****商行联盟要求开展调测工作,避免私自进行参数修订等影响公平性的行为。
4. 测试期间应确保全程留痕、关键指标或结果须提供监控截图、结果数据、日志及相关录音录像,支持商行联盟回溯审计。
5. 测试结束后,参与测****商行联盟要求进行数据清理等相关工作,严禁私自留存、转发、用于任何三方宣传。
二、征集时间
本项目征集自发布之日起至2026年11月23日17:00止。
三、合格供应商要求
(一) 供应商须为依据中华人民**国法律设立能够独立承担民事责任的主体,成立时间不少于1年(以营业执照为准);
(二) 供应商财务状况良好,有依法缴纳税收和社会保障资金的良好记录;
(三) 供应商自成立以来无重大债权债务纠纷,在经营过程中无因违反相关法律法规受到刑事处罚和相关监管机构的行政处罚;
(四) 供应商申报参与本次测试****商行联盟对测试设备的基本技术要求,且优先选用****测评中心****中心最新《安全可靠评测结果公告》人工智能训练推理芯片目录的产品,未列入目录的产品,须提供等效安全自证材料(供应链溯源、固件安全说明、SBOM、漏洞响应机制、第三方安全评测报告等),由商行联盟认定满足自主可控与安全基线要求后,方可参与;
(五) 参与本次测试的供应商为芯片/智算卡原厂(原厂可唯一授权指定的整机厂商参与本次测试);
(六) 供应商应提供《参数配置信息表》,涵盖送测设备整机的详细配置参数、性能参数等,包括不限于芯片型号、架构、制程、算力指标、互联方式、机头配置、算力卡、显存、网卡、硬盘、电源、功耗、支持精度等;
(七)本次测评原则上采用线下方式进行,由供应商负责提供本项目验证所需的测试设备及测试环境,并对测试过程负责,****商行联盟的过程审计要求。
(八) 供应商应须对评测方式正式提出申请,并向商行联盟接口人员获取相应的承诺书模板。供应商应在****商行联盟的评测方案并认可评测结果,承诺评测所用设备与其所提供的配置参数、性能参数完全一致,测试过程真实可信,****商行联盟的审核监督及相关测试要求。承诺书须经供应商加盖公章后,随响应文件一并提交。标书代写
(九) 存在关联关系的不同供应商,不得同时参加本项目测试;
(十) 法律、行政法规规定的其他条件。
四、报名所需提供的资料
(一)基本信息
1.****公司营业执照(提供原件电子扫描件);
2.法定代表人或授权代表身份证原件电子扫描件(由授权代表报名的,还须提供加盖公章的法定代表人授权书原件电子扫描件);
3.遵守国家法律法规,在经营活动中没有违法记录,具备履行合同所必需的设备和专业技术能力(提供承诺函);
4.提供以下供应商的相关打印页面及书面承诺函:
(1)提供国家企业信用信息公示系统(http://www.****.cn) 中登记信息(含有股东信息)、以及 “列入严重违法失信企业名单(黑名单)信息”的截图;
(2)提供未被“信用中国”网站(http://www.****.cn)列入失信被执行人、重大税收违法失信主体、政府采购严重违法失信行为记录名单的截图;
(3)无不良信用行为记录承诺函(格式自拟,提供加盖公章的原件电子扫描件);
5.供应商整体情况介绍,包括基本信息、规模实力、信用状况、财务状况等;
6.供应商的人员规模、能力情况;
7.按照要求填写《供应商报名信息表》;
8.商行联盟保留要求供应商补充提交资料的权利。
(二)报名资料要求
1.请按上述要求提供报名材料,报名资料须提供加盖公章的原件扫描件,对于递交资料不全的、资料内容缺失的,或未按要求加盖公章及法人签字的原件电子扫描件视为报名资料缺漏,商行联盟将拒绝接受其报名。
2.商行联盟视收到的上述资料不涉及商业秘密,所有供应商报名资料恕不退还。
五、注意事项
(一)本次公开征集不收取供应商的任何费用。
(二)供应商须对报名信息和资料的真实性负责。如提供虚假材料,****商行联盟POC测试及集中采购活动。
(三)报名资料发送至
jiangzhj@bankalliance.****.cn;
liuqiang01 @bankalliance.****.cn;
kangly@bankalliance.****.cn;
抄送至
jzcg@bankalliance.****.cn;
lilei@bankalliance.****.cn;tianbsh@bankalliance.****.cn。
邮件标题格式为:公司全名+AI智算设备采购项目POC测试供应商征集。报名邮件的容量超过10M时,请压缩、拆解成多个小于10M的邮件或以超大附件形式发送;报名资料以指定邮箱收到为准。
六、声明
申请供应商所有提交的资料,仅为征集供应商信息和建立供应商库之用,非采购邀请。申请供应商报名参与不等同于获得候选资格,征集人有权选定并邀请全部或部分合格供应商参与本项目采购活动。供应商超期提交的,征集人不予受理。
七、联系方式
(一)联系单位:****
(二)地址:**省**市高新**科创路1001号
(三)邮箱:
jzcg@bankalliance.****.cn;
lilei@bankalliance.****.cn;
tianbsh@bankalliance.****.cn;
jiangzhj@bankalliance.****.cn;
kangly@bankalliance.****.cn。
特此公告。
****
2026年11月17日
供应商报名信息表(模板).docx