人机协同“双刃剑”

人机协同“双刃剑”

——谈谈政府采购AI应用的风险破局与治理升级

◆ 李晨 龚天朗

目前，****中心也在政府采购中积极开展人工智能应用的探索，如合规性审核、辅助评审、智能监管等。随着“人工智能+政府采购”时代的加速到来，****政府采购的单一场景纵深渗透至全环节，更多不同场景下的创新应用将陆续出现，****政府采购领域的各类“顽疾”，进一步**生产力，推动政府采购事业高质量发展。

但与此同时，AI应用过程中人机协同的风险和边界问题日益凸显，衍生出责任边界模糊、算法黑箱等系列风险。本文立足人机协同视角，对政府采购AI应用的典型风险表现，进行阐述与分析，最终从制度构建、技术优化、能力提升等维度提出针对性治理路径，****政府采购AI应用从“工具落地”向“治理升级”转型提供参考。

让技术服务于治理目标

AI技术通过自动化处理重复性工作、精准识别违规风险，有效降低了采购人员与评审专家的工作负荷，****政府采购的效率与规范性。然而，当前政府采购AI应用多聚焦于“技术工具”的功能实现，忽视了人机协同的本质要求。政府采购的核心要义是“公共利益优先、公平公正”，****政府采购业务应用中目的和本质要求应该是让技术服务于采购治理目标，而非替代人类对公共事务的主导权与责任担当，具体可概括为3个核心要求。

——以“公共利益与公平性”为人机协同的根本前提。人机协同并非单纯追求效率提升的技术手段，****政府采购的公共属性为前提。一方面，AI的算法设计、功能设定需嵌入公平性、合规性基因，避免算法偏见；另一方面，人类在协同过程中需坚守价值判断底线，当AI决策与公共利益、公**则存在冲突时，人类拥有最终修正权，确保****政府采购的核心价值导向，而非被技术逻辑绑架。

——以“人类主导、AI辅助”作为人机协同的基本原则。****政府采购业务中的应用容易导致人类过度依赖AI工具，弱化人工对采购文件条款的研判能力、忽视对异常情况的深度核查，甚至出现将AI输出结果直接作为最终决策依据的现象，进而引发合规风险。政府采购事关公共利益，为了坚守公平公正的工作原则，规避算法黑箱与责任真空，需要以“人类主导、AI辅助”作为人机协同的基本原则。标书代写

——以“人类实践反馈、算法持续优化”的良性循环为工作模式。政府采购涉及行业领域多且覆盖面广，政策法规密集出台、迭代频繁，业务场景复杂，情况多变，****政府采购业务领域的应用过程中，人机协同并非静态的“分工固化”，而是需具备动态适配能力。人类需持续将采购实践中的新规则、新场景、新问题总结提炼，反馈给算法技术方，推动算法迭代优化，提升AI对复杂场景的适配性。这种动态协同让技术与实践深度融合，确保****政府采购业务的发展变化。

应用中的风险分析

——责任边界模糊风险。责任边界模糊是人机协同失衡最直接的风险表现。在合规性审查环节，采购人或代理机构可能将文件合规性判定完全交由AI，对AI判定的审查点不进行复核，不作深入核查，导致隐性风险被遗漏，或者重大风险未被识别，影响政府采购业务的规范化开展，损害政府采购的公信力。在辅助评审环节，评审专家可能对AI评分建议盲目采信，不再研读、核对投标文件编制内容及佐证材料，直接沿用结论，导致评审质量下滑，****政府采购的公平性与严肃性。同时，当AI辅助评审出现问题时，评审专家甚至可能以“AI已判定”为由规避独立判断责任，导致评审工作出现责任真空。一旦出现AI误判引发质疑投诉，采购单位、评审专家、代理机构、技术开发商等涉及评审工作的各方容易产生相互推诿责任的情况，监管部门难以进行责任追溯及约束AI不规范行为，最终破坏评审的公平性基础。标书代写

——算法黑箱的风险。****政府采购AI应用的核心障碍，其现象的根源是大模型复杂的内部结构和高度非线性的运算机制，政府采购参与各方无法知晓AI决策逻辑与数据来源，使得交易各方难以信任模型给出的评审结果、策略建议等。对评审专家而言，因无法理解AI审核、评分的依据，易忽视辅助意见或盲目采信，可能导致AI工具形同虚设，也可能因算法偏差影响评审标准的准确认定。算法黑箱还可能使得供应商对审核结果、评分依据产生质疑，影响政府采购的效率和公信力。对供应商而言，面对AI标记的违规结论或偏低评分时，因无法获取明确依据，极易怀疑采购公平性，从而引发大量质疑投诉，增加行政成本并延误项目推进。

——机器幻觉带来的风险。机器幻觉产生的核心原因在于大模型对海量数据的学习模式存在局限性。它在处理招标采购相关文本时，虽然能依据数据中的统计规律生成内容，但是难以真正理解语义逻辑的深层内涵。**：在智能客服应用场景下，AI可能凭空捏造政策条款、错误解读投标流程与资格要求，向咨询的供应商传递不实信息，不仅误导供应商参与采购活动，还会引发对采购方专业性的质疑；在智能围串标分析场景中，AI可能误将正常的投标报价相似性判定为围串标行为，或是遗漏真实的异常关联线索，出具错误的预警结论，既会导致合规投标企业被无端排查掉，扰乱正常市场秩序，也可能让真正的围串标行为逃脱监管，损害政府采购的公平性。

——人才与能力适配风险。人机协同的有效落地，需要采购人员、评审专家具备“技术理解能力+业务判断能力”的复合型素养，****政府采购领域普遍存在人才与能力适配不足的问题。一方面，基层采购人员多缺乏AI技术相关知识，无法准确设置AI工具参数、解读AI决策结果，也难以对AI误判进行及时纠正；另一方面，部分高龄评审专家对新技术接受度较低，操作AI辅助工具存在困难，且对算法逻辑存在抵触情绪，不愿使用AI辅助工具。人才与能力的不足，导致AI工具的功能无法得到充分发挥，人机协同仅停留在表面，无法实现深度融合。

构建全方位治理体系

针对上述风险与成因，需从制度构建、技术优化、管理提升、人才培养4个维度发力，构建“制度规范、技术支撑、管理保障、人才适配”的全方位治理体系，推动政府采购AI应用的人机协同从“失衡”走向“均衡”。一方面，需明确AI的辅助工具定位，另一方面，需强化人类的核心主导地位，确保AI****政府采购提质增效、风险防控的目标，而非偏离公共价值导向。

——推动政策法规和标准规范建设。AI在政府采购领域的应用涉及诸多法律和伦理问题，如数据安全、隐私保护、责任归属等。当前，我国相关政策法规和标准体系亟待加强完善，以促进AI在政府采购领域的健康发展。2023年7月，****办公室等7部门公布了《生成式人工智能服务管理暂行办法》，为我国生成式人工智能的发展提供了清晰的发展蓝图和监管指导。2025年10月，《**公共**交易大模型开发建设与应用管理暂行办法》针对公共**交易大模型的开发、应用、安全与责任进行界定，覆盖招标文件智能生成、合规质检、AI 辅助评审、围串标监测等场景，为地方专项治理提供范例。

借鉴现有实践经验，****政府采购领域AI技术应用的立法工作。同时，标准和评价体系是推动以大模型为代表的AI****政府采购应用中实现高质量发展的重要力量，第三方机构应加快构建相关AI技术应用标准和规范体系，指导AI****政府采购领域的建设、应用、评价等各环节，推动AI****政府采购应用发展“有据可依”。

——优化技术支撑和算法准确性。一方面，推动算法决策的可解释性与可追溯性。通过运用“规则引擎+机器学习”“可视化决策输出”“建立动态反馈与知识库优化机制”等方式，在保留AI数据处理优势的同时，提升算法决策的可解释性。例如，在合规审核环节，AI不仅要标记违规问题，还需明确指出对应的法规条款、违规内容，生成可视化的审核报告。在辅助评审环节，需清晰呈现评分依据（如技术参数响应情况、价格对比结果），让评审专家能够直观理解算法决策逻辑。另一方面，优化AI工具功能设计。结合政府采购业务需求与技术优势，优化AI工具的操作界面，简化操作流程，开发适配采购单位、代理机构、评审专家等非专业技术人士的便捷功能（如语音交互、一键生成报告）。增加人工干预功能，允许采购单位、代理机构、评审专家等对AI决策结果进行及时纠偏，降低AI的幻觉率导致的风险，实现“机器决策+人工修正”的灵活协同。

——构建全流程风险管控机制。完善常态化监督机制。各地行业自律组织应定期对AI决策结果进行抽样核查，对比AI审核结果与人工审核结果的差异，分析误判原因并推动技术提供商优化算法；监管部门将人机****政府采购监督检查范围，对未落实人工复核义务、违规使用AI工具的单位进行通报批评与整改。同时，建立供应商反馈机制，畅通供应商对AI决策的质疑渠道，及时回应并解决供应商诉求。

——培养专业化的人才队伍。建设政府采购AI应用专业化人才队伍，需从分层培训与复合型人才培育两方面推进。一方面开展分类培训，针对采购单位、代理机构端，聚焦AI操作应用、算法逻辑，重点针对智能合规审查、智能围串标分析系统使用、AI智能客服等实操课程，配套模拟采购项目演练，强化AI应用熟练度，助力相关人员精准识别AI误判、算法黑箱等潜在风险，提升技术应用与风险识别能力。针对评审专家强化工具使用培训与理念宣导，提升AI结果解读与复核能力，推广AI应用的实践经验。另一方面构建复合型人才队伍，通过引入兼具采购业务与AI技术背景的人才，统筹AI应用规划、风控及技术对接，推动采购业务与AI技术深度融合，联动高校科研机构开展专项研究，培育跨学科人才，****政府采购应用深度融合提供支撑。

（作者单位：****中心）