招标详情
下文中****为隐藏内容,仅对千里马会员开放,如需查看完整内容请
「注册/登录」或 拨打咨询热线:
400-688-2000
项目名称
| GPU算力租赁服务 | 项目编号
**** |
公告开始日期
| 2025-11-21 19:01:09 | 公告截止日期
2025-11-26 20:00:00 |
采购单位
| **** | 付款方式
货到验收合格后付100% |
联系人
| 联系电话
|
签约时间要求
| 到货时间要求
|
预算总价
| ¥ |
发票要求
|
含税要求
|
送货要求
|
安装要求
|
收货地址
|
供应商资质要求
| 符合《政府采购法》第二十二条规定的供应商基本条件 |
公告说明
|
采购商品 采购数量 计量单位 所属分类
| GPU算力租赁服务 |
1 |
组 |
|
品牌
|
型号
|
预算单价
| ¥ |
技术参数及配置要求
| 一、AI功能模块,数量1套 1、集成多种深度学习各种框架(如TensorFlow,pytorch,caffe,keras等)用户模型开发、模型训练等; 2、提供基于容器的开发容器创建、停止、复制等管理功能,用户可基于公共镜像、自定义镜像创建开发容器,进行机器学习/大模型的开发环境;可将开发容器保存为容器镜像,用于开发、训练、推理的运行环境;提供Jupyter Notebook、VSCode等主流开发环境; 3、可通过Web界面快速创建大模型/机器学习的模型训练任务,用户可按需选择所需的GPU**,支持多机多卡分布式大规模训练;支持用户自定义训练环境;支持选择基础模型并配置输出模型的存储位置与模型名称;支持挂载用户指定的存储**;支持在线查看训练日志,支持Web SSH方式登录和操作训练任务所运行的各个容器;训练完成销毁运行环境、释放计算**;支持 DeepSpeed、Megatron-LM、ColossalAI等 训练加速技术;可灵活配置训练参数;支持基于tensorboard的训练可视化; 4、可通过Web界面快速创建推理服务,用户可按需选择所需的GPU**,支持多机多卡分布式推理服务快速创建;支持fastchat等常用通用推理服务框架;支持Triton、OpenVINO、TensorRT等推理加速技术;可灵活配置推理服务启动参数; 5、支持公共数据集、用户私有数据集;支持Ceph等分部署存储的使用;支持用户私有存储空间,可上传下载用户个人数据,用于模型的开发和训练; 6、支持模型管理和模型共享,可设置模型的共享范围; 7、提供容器镜像管理及分享,支持镜像导入及修改;允许用户自定义镜像,支持基于Dockerfile创建容器镜像;能够使用互联网上公共/私有镜像库的镜像; 8、支持GPU按照型号进行分组,当用户需要某一种类型的GPU卡时,就会从**池中调度这一类型型号的卡给用户;可动态申请分布式训练所需要的GPU数量和节点数量; 9、支持NVidia、AMD、华为、天数、摩尔线程等常见国内外GPU/TPU计算加速设备的透传;支持GPU虚拟化,可将GPU拆分使用,提高GPU卡的利用率; 10、通过区域、可用区区分AI集群,用户可选择所使用的算力集群;用户选定区域的容器默认采用本区域的存储**; 11、基于基于推理服务的大模型应用快速构建功能,用户可通过Web界面简单配置后形成大模型应用;支持向量数据库创建与管理,并作为知识库提供给大模型;支持提示词工程;支持多模态大模型应用的创建;提供易用的大模型应用界面访问方案,并提供API接口体系供大模型应用的二次开发; 12、提供完整的计量计费功能,管理可通过计费模块对GPU、CPU、内存等**进行费用设定,根据用户使用时长进行计费。 二、算力模块,数量2台 1、处理器:配置≥2颗X86处理器,单颗处理器核心数量≥48,线程数量≥96,主频≥2.1GHz。 支持AVX512指令集。 2、内存:配置≥32条单条容量64G内存条,主频≥4800MHz,规格:ECC REG DDR5 3、硬盘:配置1块≥960G SSD;配置4块≥3.84T NVME SSD;前置支持≥19个2.5寸热插拔硬盘位,其中≥8个2.5寸热插拔硬盘位支持NVME硬盘,提供架构证明文件。 4、网卡:配置≥8个400G IB 端口,全线速无阻塞,采用均衡拓扑;配置≥1个200G IB 端口,配置≥2个10G 以太网端口。 5、加速设备:计算缓存≥1128GB HBM3,双精度(FP64)计算能力≥0.5PFlopos,半精度(FP16)计算能力≥16PFlopos。计算芯片卡间互联带宽≥900GB/s。 三、存储模块,数量1套 1、全闪节点数量≥16台,每节点配置如下:处理器核心56,内存≥512GB,7.68TB NVME SSD≥16块。200G IB端口≥2个。 2、混闪节点数量≥4台,每节点配置如下:处理器核心56,内存≥256GB,7.68TB NVME SSD≥4块。20T SATA硬盘≥36块。200G IB端口≥1个。 7.3、支持以节点池为单位设定数据保护策略,不同节点池可以设置不同的 N+M 配比或者副本数。 7.4、支持 RDMA 协议,支持 NVIDIA GPUDirect Storage(GDS) 7.5、支持 POSIX 1.x ACL、NTFS ACL、NFS ACL 等多种 ACL权限的转化与管理。 7.6、支持对用户、用户组、目录设置配额;配额类型支持统计配额、限制配额;统计配额仅监控存储的使用情况,不限制使用;限制配额监控存储使用情况的同时并限制使用,超出阈值告警。 7、支持将小文件实现后端的聚合成文件的方式存储和访问,以简化海量小文件场景所带来的高存储和恢复压力负载。并且小文件聚合以后对于业务客户端正常访问无任何影响,删除文件 |
参考链接
|
售后服务
|