网易智企重磅发布《AI安全白皮书》，解读AI安全治理新路径

2026 年，AI 已经不再只是写文案、做总结、生成图片的效率工具。

它正在进入客服、投研、教育、办公、内容生产、代码开发、智能终端、业务运营等真实场景，开始读取企业知识库、调用 API、操作工具、生成代码、触发流程，甚至以 Agent 形态自主拆解任务、连续执行动作。

换句话说，AI 正从“会回答问题的工具”，变成“能连接业务系统的数字操作者”。

但问题也随之而来：当一个 AI 不只会“说错话”，还可能“做错事”，企业该如何保证它看得见、管得住、测得出、追得回？

网易智企携手金山办公、Minimax正式发布《AI安全白皮书》。白皮书系统梳理 AI 技术演进、风险变化、全球治理趋势与企业落地路径，提出面向智能体时代的 AI 安全治理体系，为企业构建可信、可靠、可控的 AI 应用提供方法论与实践参考。

💡 文末可领取完整版《AI安全白皮书》

过去几年，行业对 AI 的讨论大多围绕能力展开：模型参数更大、推理更强、生成更快、成本更低。

但当 AI 真正进入业务深水区，企业会发现：决定 AI 能不能规模化落地的，不只是模型能力，而是安全治理能力。

白皮书指出，AI 安全正在发生四个关键变化。

变化一：风险对象变了，从“内容风险”到“行为风险”

过去，企业主要担心模型输出违规内容、虚假信息、敏感表达。现在，随着 Agent 能够调用工具、读写文件、访问数据库，风险已经从“说错”升级为“做错”。

一个客服 Agent 可能给出不当承诺，一个办公 Agent 可能误删文件，一个代码 Agent 可能提交高危代码，一个业务 Agent 可能越权访问核心数据。

AI 安全的重点，正在从审核一段内容，升级为治理一次完整行为。

但这并不意味着内容安全的重要性下降。恰恰相反，在 AI 治理体系中，内容安全正在成为连接输入、输出、模型行为与合规审计的关键抓手。从用户输入到模型输出，从文本到图片、音频、视频等多模态内容，内容安全控制面既是防止 AI 造成实际业务损失的最后一道防线，也是品牌危机、诈骗风险、违规生成和监管审计中的重点环节。

换句话说，AI 安全不是从内容安全“跳到”行为治理，而是在内容治理基础上，进一步扩展到工具调用、权限执行和业务行为治理。

变化二：攻击边界变了，从“代码漏洞”到“语义诱导”

传统安全更多关注漏洞、流量、权限和恶意代码；但 AI 系统面对的是自然语言、上下文、意图和推理链路。

攻击者不一定需要入侵系统，只需要把恶意指令藏进网页、邮件、文档、知识库或多轮对话中，就可能诱导模型忽略规则、泄露信息或执行非预期操作。

白皮书认为，AI 安全必须具备理解语义意图的能力。未来的防御体系，不能只识别“危险代码”，还要识别“危险意图”。

变化三：治理方式变了，从“事后补丁”到“原生内嵌”

单靠模型自身对齐，无法应对快速变化的攻击方式、业务规则和合规要求；单靠输出端过滤，也无法覆盖训练数据、知识库、工具调用和权限执行等复杂链路。

AI 安全必须从研发训练、部署上线、运营服务、迭代更新到下线销毁，贯穿全生命周期。

安全不再是 AI 系统上线后的外挂，而要成为 AI 架构的一部分。

变化四：竞争门槛变了，从“模型可用”到“系统可信”

企业真正需要的不是一个能演示的 AI Demo，而是一个能进入生产环境、服务核心业务、承受真实对抗、满足合规审计的 AI 系统。

这意味着，安全合规不再只是成本项，而是 AI 时代的核心竞争力。谁能把 AI 用得更稳、更准、更可控，谁才有机会把技术红利转化为长期生产力。

很多企业并非没有意识到 AI 风险，而是不知道风险该如何分类、如何排序、如何治理。

提示注入、模型幻觉、数据泄露、RAG 污染、深度伪造、供应链投毒……风险越来越多，治理资源却始终有限。到底什么必须优先解决？什么可以分阶段治理？

《AI安全白皮书》提出“五层风险框架＋五维半定量评估体系”。