开启全网商机
登录/注册
【分散采购备案单】高精度DBD数据处理分析系统
招标详情
下文中****为隐藏内容，仅对千里马会员开放，如需查看完整内容请
「注册/登录」或 拨打咨询热线：
400-688-2000
项目概况
| 项目名称 | 高精度DBD数据处理分析系统 | 项目编号 | **** |
| 开始时间 | 2025-10-31 10:37 | 结束时间 | 2025-11-05 10:37 |
| 供应商资格要求 | 参照《****政府采购法》第二十二条规定的资格条件。 | 预算金额（元） | 198000.00 |
| 采购方式 | 竞价 | ||
采购货物信息列表
| 1 | 高精度DBD数据处理分析系统 | 1 | 套 | 198000 | ||
| 技术参数 | 设备硬件参数如下：1）GPU：配备48G及以上显存的GPU卡×4；2）内存：采用DDR5 256G及以上；3）存储：支持3TB以上的NVMe存储空间；4）处理器：支持单NUMA架构，具备12个物理核心，主频2.4GHz以上；5）系统盘：SSD容量480G以上；6）网卡：配置2个千兆电口和2个万兆光口。 设备功能点： 功能与服务要求如下：1）模型兼容能力：预置国际国内不少于6个开源模型，参数量级覆盖7B、8B、14B、32B、70B、671B，支持多种主流开源大模型管理，包括但不限于LLama系列、Qwen系列、DeepSeek系列模型；2）模型运行性能：支持运行参数量为671B 模型，模型精度高于INT4，运行时并发请求数 >= 4，>= 20 token/s，总的预填充速度 >= 500 token/s；70B INT8模型，并发请求 >= 30, 系统总吞吐 >= 1700 token/s；32B BF16模型，并发请求>=40, 系统总吞吐 >= 4800 token/s；14B BF16模型，并发请求>=80, 系统总吞吐 >= 11000 token/；3）模型并行能力：支持同时运行671B、72B、32B参数量级模型。；4）模型精度：支持模型量化精度不得低于4bit量化，其中deepseek 671B模型需要高于INT4精度，70B及以下参数量模型需要支持BF16精度；5）接口支持：支持OpenAI标准chat completions接口，支持模型调用的API加密；6）流量控制：支持对不同模型接口的并发请求数进行限制；7）安全控制：所有模型访问请求需经认证，禁止未认证请求直接通过端口访问；8）模型切换：支持模型切换策略，能够简单快速切换使用模型，无需手动修改底层参数即可启动模型；9)集群管理：支持多服务器集群管理能力，考虑集群性能优化，提高推理效率，要求在集群下支持部署预填充-解码（prefill-decode）解耦与大规模专家并行（EP）技术； 10）模型导入：支持自行上传模型的能力，上传后模型能通过平台调用；11）模型推理加速：模型运行时支持cache缓存加速，无需手动配置参数，采用图形化界面；12)模型启动管理:模型启动时支持指定GPU个数，支持手动选卡选择GPU个数，支持限制并发数，支持手动设置上下文长度;13)模型运行启动检测 :支持模型启动时自动检测当前显存**是否充足，并自动给出提示; 14）图形化操作界面:以上功能均为图形化的操作界面，使用便捷。 | |||||
| 相关材料 | 参数.docx | |||||
附件（1）
参数.docx下载预览
招标进度跟踪
2025-11-10
2025-11-06
2025-10-31
招标公告
【分散采购备案单】高精度DBD数据处理分析系统
当前信息
招标项目商机
暂无推荐数据
400-688-2000
欢迎来电咨询～
