开启全网商机
登录/注册
项目所在地:**市
为便于供应商了解采购信息,根据《物资服务集中采购需求管理暂行办法》等有关规定,现将大模型服务平台建设的采购意向公开如下:
| 1 | 大模型服务平台建设 |
采购内容:大模型算力服务器2台、应用服务器1台和配套应用开发软件
采购数量:1套
主要功能或目标:采购硬件算力平台和配套应用开发软件,搭建大模型研发服务环境,以国产开源大模型作为支撑,开展大模型服务平台自主研发
需满足的要求:硬件采用国产化大模型算力服务器为大模型稳定运行和应用服务提供算力支撑,满足100并发服务要求。 配套部署国产化应用服务器为应用开发和数据存储提供支撑。 应用软件:实现系统功能的快速开发和服务,具备知识库构建、工作流制定、应用场景定制开发等能力。
|
大模型算力服务器:(CPU:符合国产化要求,单台配置≥4块(总核心数≥192),单块主频≥2.6GHz,提供不少于8个≥200GE QSFP接口,支持RoCE协议;GPU:符合国产化要求,单台配置8块,显存≥512GB,FP16算力≥2.2PFLOPS,INT8算力≥4.4POPS,支持GPU扩展,支持AI卡全互联,整机互联带宽不低于 392GB/s;内存:单台内存≥1T,单条内存≥64GB,传输速率≥2666MT/s,最大支持3200 MT/s,支持RECC,支持内存扩展;硬盘:采用企业级SSD固态盘,单台配置系统硬盘≥2块,容量≥960GB;数据硬盘≥3块,存储容量≥23TB,支持硬盘热插拔,支持硬盘容量扩展;每台服务器配置不少于5T NVMe SSD;RAID卡:单台配置≥1块,支持RAID 0/1/5;2台算力服务器满足部署运行DeepSeek-R1-W8A8,在1024token输入1024token输出情况下,输出吞吐率不小于890tokens/s。) 应用服务器:(CPU:符合国产化要求,单台配置≥2块(总核心数≥64),单块主频≥2.6GHz;内存:单台内存≥512GB,单条内存≥32GB,最大传输速率支持3200 MT/s,支持RECC,支持内存扩展;硬盘:采用企业级SSD固态盘,单台配置系统硬盘≥2块,容量≥960GB;数据硬盘≥2块,存储容量≥7.68TB,支持硬盘热插拔,支持硬盘容量扩展;RAID卡:单台配置≥1块,支持RAID 0/1/5;网卡:单台配置≥1块,包含≥2个25GE光口,含配套的光模块;单台配置≥2个GE电口。) 配套应用开发软件:提供3款以上主流大模型以及安装部署服务,具备自然语言理解与生成能力、逻辑推理能力,能够理解各类复杂概念和知识,可以识别、理解和生成中文、英文以及Java、Python、H5等主流代码语言;提供所需工具平台及相应的安装部署服务,包括支撑平台运行的开源和商用小模型或开发工具,具备识别、理解图片、pdf、语音等格式文件的能力,提供文本向量化、文本相似度检索、文本重排序、工作流制定等功能;软件应用平台提供模型管理、智能数据处理、知识库管理、用户管理和系统管理等功能;知识库支持构建自定义、可扩展的知识标签体系,支持文件资料的自动解析与结构化提取、向量存储和检索索引构建。 | 480.00 | 2026年05月 | 无 |
注:1.本次意向公开的采购意向仅作为供应商了解初步采购安排的参考,采购项目具体情况以最终发布的采购公告和采购文件为准;标书代写
2.供应商可以通过采购平台反馈参与意向和意见建议。