开启全网商机
登录/注册
项目所在地:**省
为便于供应商了解采购信息,根据《物资服务集中采购需求管理暂行办法》等有关规定,现将8卡141GB显存服务器购置的采购意向公开如下:
| 1 | 8卡141GB显存服务器购置 |
采购内容:大模型推理训练平台
采购数量:1套
主要功能或目标:采购一套大模型推理训练平台,满足学院开展大模型推理与训练相关教学、科研及实验需求,支持主流开源大模型的部署、推理、 fine-tuning 微调及模型评测等核心功能,为人工智能相关专业建设提供基础算力支撑。
需满足的要求:1.支持 deepseek、Qwen等主流开源大模型的本地化部署与推理服务。 2.支持模型 fine-tuning 微调训练,具备 LoRA、QLoRA 等高效微调能力。 3.支持多用户并发使用,具备**配额管理能力。 4.预留扩展接口,****学院现有算力平台或教学管理系统对接。 5.提供必要的运维培训与技术支持服务。
|
1、★规格:机架式≥4U,标配原厂导轨,配备服务器机柜 2、★处理器:配置≥2颗CPU处理器,单颗CPU物理核心数≥48、线程数≥96,基础主频≥2.5GHz、最大睿频≥3.8GHz,缓存≥250MB,功率≥330W,采用10nm及以下先进制程工艺 3、★内存:总容量≥2TB,单个内存条容量≥ 64GB,DDR5 ECC RDIMM规格 4、内存扩展能力:≥32个DDR5内存插槽,最高支持5600MT/s 5、★硬盘:配置≥3块NVME SSD硬盘,单块硬盘容量≥7.68TB 6、硬盘扩展能力:最大支持16块NVME槽位,支持配置2块M.2 SATA SSD,所有硬盘支持免开箱热插拔 7、阵列卡:配置独立磁盘阵列卡,缓存≥2GB,支持RAID 0/1/5/10/50/60,配置超级电容保护数据安全 8、★网卡:配置≥2个GE以太网接口 9、★显卡:配置≥8块显卡,采用标准PCIe接口、HBM3e及以上带宽显存,单卡指标:显存≥140GB,带宽≥4.5 TB/s,FP8 Tensor核心≥ 3300 TFLOPS,FP16 Tensor核心≥ 1600 TFLOPS,TF32 Tensor核心≥ 800 TFLOPS,FP64 Tensor核心≥ 55 TFLOPS,INT8 Tensor核心≥ 3300 TFLOPS, 10、★拓展能力:具备光通讯的拓展接口 11、电源及风扇模块:满配冗余风扇及冗余铂金电源,单个电源模块功率≥2500W,总功率≥10000W。 | 220.00 | 2026年09月 | 无 |
注:1.本次意向公开的采购意向仅作为供应商了解初步采购安排的参考,采购项目具体情况以最终发布的采购公告和采购文件为准;标书代写
2.供应商可以通过采购平台反馈参与意向和意见建议。
联系人:蒋昊南
联系方式:177****1139