GPU服务器

"采购项目名称：GPU服务器采购数量： 1台实现的目标： 采购1台GPU服务器，用于团队DeepSeek等大模型的本地化部署与推理运算。服务器需具备强大的并行计算能力和大容量高带宽显存，以支撑大模型的高效加载、推理及多用户并发访问需求。服务器配备2颗英特尔至强Gold6530处理器(32核心、2.1GHz)，16条64GBDDR5 6400内存(合计1024GB)，存储配置为2块480GB SSD、2块3.84TB SATASSD及1张SAS卡;网络配置为2个10G双口网卡(含模块)及1个1G四口网卡;搭载4张GPU计算卡，最大支持扩展到8张，以满足大模型部署所需的算力与显存要求。质量要求:GPU服务器应采用成熟稳定的企业级架构，支持长时间高负载稳定运行。4张GPU需保证提供充足的显存容量(合计564GBHBM3e显存)和高带宽数据香吐能力，满足大模型推理对显存带宽的严苛需求。CPU、内存、存储等关键部件均应满足企业级可靠性标准，支持热插拔冗余设计，确保系统在高强度运算任务中的持续稳定性和数据安全性。服务器应支持主流Linux操作系统及深度学习框架，兼容DeepSeek等国内主流大模型的部署与运行。环境服务与安全要求:供应商应负责设备的现场安装与系统调试，确保服务器各项性能指标达到双方确认的技术要求，并提供现场专业培训。质保期内因设备质量或设计缺陷导致的故障，供应商应提供免费维修、更换零部件乃至整机服务。设备应具备完善的硬件监控与故障预警机制，支持远程管理功能，确保在7X24小时高负载运行下的设备安全与数据安全。"