东北大学供应链智慧服务智能推理服务器、生产链协同智能推理服务器项目（二次）公开招标公告

货物/设备/信息化设备/计算机/服务器

货物名称

主 要 需 求

数量

采购预算

（万元）

供应链智慧服务智能推理服务器、生产链协同智能推理服务器

服务器基础性能

1.1★CPU：国产化处理器，物理核心数≥32核，主频≥2.1GHz；CPU数量≥2颗；

1.2★内存≥64GB DDR5，单根内存容量≥32GB，频率≥4800MHz；

1.3★硬盘单盘容量≥960GB，数量≥3；

1.4★RAID卡支持raid0,1,5,6,10,50,60；

1.5★服务器：服务器高度≤4U

1.6★PCIe扩展：最大支持≥10个PCIe插槽；

1.7★电源：数量≥2个，电源功率≥2000W；

1.8★操作系统：国产服务器操作系统，性能及功能不低于主流国产同级别服务器操作系统标准，
(2) 推理软件引擎

2.1★多模态统一推理能力：原生支持文本、图像、音频、视频、表格、图纸多类型数据推理，覆盖文档解析、OCR识别、工业视觉质检、视频诊断、图文问答等全场景行业应用。

2.2★专业大模型训练：采用混合精度训练技术，针对跨产业链供应链**管理工业互联网平台的垂直产业大模型进行领域微调，速度≤4小时（10亿参数）。

2.3★支持AI栈：兼容国内国际主流算力生态，具备高效的平滑迁移与运行能力。投标方应提供涵盖代码转换工具、数学算子库、运行时兼容层等在内的完整迁移与适配方案，确保应用在目标平台上可高效运行。

2.4▲AI 接入网关：提供统一 API 入口，平台身份认证认证，请求路由，限流，熔断等能力

2.5▲企业级高并发推理调度：搭载连续批处理、PagedAttention分页显存管理核心技术，高效复用显存**，支持上万并发会话，显著提升高并发场景算力利用率；支持流式推理输出，适配智能问答、数字人、实时交互业务场景。

2.6▲多级QoS服务质量保障：支持业务优先级分级调度，区分核心生产业务与普通业务，优先保障关键业务低时延、高可用，稳定满足企业SLO时延与吞吐指标。

（3）集群运维管控

3.1★****中心：配置每个平台的可用工具列表，知识库，模型等

3.2★模型调度系统：管理多个大模型实例（如Deepseek，Qwen3多种参数模型），按平台需求动态分配 NPU **，监控 GPU/NPU 利用率、显存、QPS。

3.3★精细化算力**调度：支持算力虚拟化切分，单卡多实例复用，提升硬件利用率；实现大规模集群统一调度，支持算力配额管控、**独占与共享灵活配置。

3.4★模型全生命周期管理：集成模型仓库，支持模型版本管理、快照回滚、A/B测试、灰度发布，实现模型从上线、迭代到归档的全流程管控。

3.5▲监控审计服务：实时展示各平台调用量、响应延迟、错误率，NPU/CPU/内存/磁盘监控。

3.6▲全链路可视化可观测：实时监控硬件状态（利用率、显存、温度、功耗）与业务指标（推理时延、吞吐、并发、错误率）；全流程日志留存，支持业务溯源、故障定位；具备异常自动告警能力。

3.7▲自动化故障容灾自愈：支持进程故障、节点故障自动迁移、重启恢复，实现故障无感切换；支持集群横向一键扩容，适配业务规模持续增长需求。

3.8▲安全中间：审计日志，操作日志，调用日志，输入、输出涉密/敏感词过滤等。
(4) 基于大模型与知识图谱的知识管理系统

4.1★知识归集：支持文档知识库、百科知识库多种知识归集方式，支持集中存储、分布式存储、异地备份。

4.2★智能搜索：将知识图谱技术和全文检索等多种策略结合，支撑精准高效的搜索功能，提升查询效率。

4.3★知识专题：根据业务场景将各业务线常用知识集中化管理、提升知识利用。

4.4★智能推荐：结合知识图谱与知识标签的关联，根据用户兴趣智能推荐相关知识。

4.5▲智能创作：基于大语言模型的智能写作助手，快速生成高质量的文章、报告、新闻等多种文本内容。

4.6▲知识协同：支持跨团队、跨部门进行文档写作、知识应用等协同交互工作，提升团队协作效率。

4.7▲知识地图：将不同岗位角色关联的知识梳理成学习地图，方便员工明确学习路径，进阶式培训学习。

4.8▲版本管理：知识点和文档版本统一管理，历史版本清晰可查。保证用户获取的知识资料始终为最新版本。

（5）AI智能体精细化调度

5.1★多租户智能体引擎：为每个平台部署独立智能体实例，支持工具调用，上下文隔离，动态加载平台专属模板与业务规则

5.2★多智能体任务编排与DAG调度：支持拆解规划类、工具调用类、检索类、执行类复合Agent任务，自动生成DAG执行拓扑，实现串行依赖、并行分支、循环重试的智能体流程调度，适配复杂业务自动化场景。

5.3★智能体请求合并与批量化调度：针对批量文档处理、批量巡检、批量数据分析等批量Agent任务，自动合并细碎请求、分时错峰调度，提升集群整体吞吐与算力利用率。

5.4▲智能体全链路追踪与可观测：可观测单智能体的规划耗时、工具调用耗时、推理耗时、步骤跳转关系，精准定位Agent流程卡顿、调用失败、逻辑异常问题。

5.5▲智能体任务熔断与自愈机制：针对工具调用超时、外部接口异常、递归死循环等Agent异常场景，自动熔断、终止无效任务、释放占用算力，保障集群稳定运行。

5.6▲多工具调用协同调度：原生适配RAG检索、API调用、代码解释器、数据库查询、第三方工具插件的混合推理调度，自动规划工具调用顺序、合并重复请求、削减无效推理，大幅降低智能体多轮调用算力开销。

5.7▲智能体会话级**隔离：支持单Agent会话算力配额、显存**绑定、并发数限制，实现多智能体同时运行互不抢占算力，杜绝复杂自动化任务互相干扰、卡顿、超时问题。

5.8▲长任务状态持久化与断点续推：针对超长链路智能体任务，支持步骤状态持久化、异常断点续跑、子任务失败重试，避免多轮Agent流程中断后全盘重跑，提升复杂任务稳定性与执行效率。

5.9▲Agent分级QoS与优先级调度：支持对生产级智能体、办公自动化智能体、普通问答智能体设置多级优先级，关键业务Agent优先抢占算力、保障最低时延与SLA稳定性。

具体要求详见“第三章 货物需求”。

2台

358.38