开启全网商机
登录/注册
| 服务器 | 1.0/台 | 联泰 | G4238 G3V2 | 概要: 4U机架式服务器(含上架安装导轨) 1.支持双路 Intel XeonR 第四/五代可扩展处理器(LGA4677); 2.可扩展8TB(256G*32)ECC DDR5内存; 3.通道10*PCI-E 5.0x16;支持8块双宽GPU卡; 4.可支持8*2.5 or 3.5寸硬盘; 5.双口千兆以太网口; 6.2700W(2+2)铂金级高效电源。 硬件参数要求: 1)处理器:配置2颗Intel Xeon 6430处理器,单颗处理器性能如下:核心数32C;线程数64线程;主频2.1 GHz;最大睿频3.4 GHz;三级缓存60 MB;TDP功耗270 W; 2)内存:配置2条内存条,单条容量64GB,频率5600MHz 3)系统盘:配置1块 企业级960GB SSD 硬盘 4)数据盘:配置1块 企业级 8TB SATA 7200RPM 硬盘 5)配置1块8端口 12Gb/s 1G缓存RAID卡;支持RAID 0、1、5、6、10、50 和 60等RAID级别 6)扩展性:支持不低于12个前置热插拔3.5 SATA/SAS/NVME硬盘位 7)GPU: 本次配置1块GPU加速卡; NVIDIA RTX PRO 5000 Blackwell 72G 10)电源:配置≥4个2700W电源 8)操作系统及技术支持:预安装Ubuntu Server系统操作系统,能够提供专用管理软件安装以及其他软件环境搭建的技术支持 其他要求: a)机器学习/深度学习/大模型框架支持:集成深度学习各种框架(如TensorFlow,pytorch 等)模型开发、模型训练等; b)开发容器管理:提供基于容器的开发容器创建、停止、复制等管理功能,用户可基于公共镜像、自定义镜像创建开发容器;可将开发容器保存为容器镜像,用于训练、推理的运行环境;提供 Jupyter Notebook、VSCode 等主流开发环境; c)训练任务管理:可通过Web界面快速创建大模型/机器学习的模型训练任务 d)用户可按需选择所需的 GPU **, 支持多机多卡分布式大规模训练;支持在线查看训练日志, e)支持 Web SSH方式登录和操作训练任务所运行的各个容器;训练完成销毁运行环境、释放计算**;可灵活配置训练参数;支持基于Tensorboard 的训练可视化; f)推理服务管理:可通过Web界面快速创建推理服务,用户可按需选择所需的GPU**, g)支持 Triton、TensorRT 等推理加速技术;可灵活配置推理服务启动参数; h)大模型应用快速构建:基于推理服务的大模型应用快速构建功能,用户可通过 Web界面简单配置后形成大模型应用;支持向量数据库创建与管理,并作为知识库提供给大模型;支持提示词工程; i)支持多模态大模型应用的创建;提供易用的大模型应用界面访问方案,并提供 API 接口体系供大模型应用的二次开发; | 1.保修:提供原厂质保3年,包括电话及现场维修, 2.硬件产品需通过中国国家强制CCC认证和中国环境标志产品认证; |