11月3日,2026年世界互联网大会"互联网之光"博览会在乌镇举行。"精品首发"主题论坛上,网易智企副总经理、易盾业务负责人朱浩齐以《基于双向AI安全架构的AI原生安全产品体系》为题发表分享,并首发CMA审核智能体、DeepGuard人脸鉴伪、AI应用与智能体安全三项成果。

AI进入业务之后

安全思路变了

"AI时代来得太快了。"朱浩齐说,AI正像电一样融入工作与生活。但新技术都有两面性:AI伪造的音视频足以以假乱真,智能体能主动寻找系统漏洞,黑客也在借助AI扫描漏洞。

过去企业做安全,核心是防外部入侵,好比给门加把锁。而当AI嵌入业务流程,它自身就是"黑盒",也可能成为风险来源:生成违规内容、被诱导越狱、泄露敏感数据、执行任务时越权。

三个变化正在发生:

  • 风险对象在变
    从内容、账号、设备风险,延展到AIGC内容、深度伪造、模型越狱、数据泄露、Agent越权执行;
  • 业务边界在变
    AI已进入营销、客服、研发、身份核验等核心链路;
  • 安全诉求在变
    企业需要的不只是检测接口,而是可识别、可决策、可处置、可审计、可持续运营的体系化能力。

最大的变化,是安全从"单点防御"走向"全链路防御"。

双向AI安全架构

易盾提出以内容理解与行为治理为核心的双向AI安全架构:

AI for 安全:用AI对抗AI。 "靠人去对抗AI,是根本对抗不过来的。"易盾的安全智能体可根据攻击样本自动生成规则、策略和模型,自动验证效果与召回率并上线,安全人员只需根据灰度结果验收确认。

安全 for AI:让AI可控地落地。 以大模型安全围栏为例,它在输入端和输出端实时做内容理解与检测,拦截或修正诱导、隐私泄露等风险,流式输出也能实时发现问题。

两个方向形成飞轮:有了安全保障,AI才能更广泛落地;有了真实场景,安全产品就有更多数据变得更强。二者共享同一个底座,即易盾在内容安全、业务风控与安全运营上的长期积累。

AI原生安全产品体系

易盾深耕数字内容安全二十余年,从网易邮箱反垃圾、游戏反外挂,到今天的大模型内容审核,构建了覆盖数据、应用、身份、模型与智能体的三层产品体系:

第一层 AI内容与数据安全:AI内容审核、AI内容分析、CMA审核智能体、智能审核系统。内容是大模型与真实世界交互的支点,内容安全是所有大模型安全的基础。

第二层 AI交互与身份安全:AI业务风控、风控引擎、设备指纹、行为式验证码、DeepGuard人脸鉴伪等。曾经"无图无真相",如今确认屏幕对面是不是真人,成了迫切需求。

第三层 AI模型与智能体安全:大模型安全围栏、安全测评、智能体安全平台、智能体供应链安全等。AI已从生成内容走向调用工具、执行命令,行为是智能体"执行任务"之后必须管住的新边界。

三项首发成果

CMA审核智能体:让复杂内容审核具备专业判断与持续进化能力

CMA(Content Moderation Agent)以自研内容安全大模型,结合多类专项小模型,让多个智能体承接不同审核标准,可7×24小时运行并快速横向扩容。直接接一个通用大模型为什么行不通?CMA有三项关键突破:

  1. 大小模型组合
    易盾每天处理数百亿级数据,95%以上是正常内容。先由垂类小模型初筛,再把疑难内容交给大模型研判,兼顾效果与成本。
  2. 多Agent策略自动进化
    样本分析、策略生成、评估筛选等Agent协同,完成误判归因、Prompt优化与离线验证。对"低俗""不良导向"这类难以精确定义的问题,提供大量案例即可明显提效。
  3. 领域知识动态增强
    融合20余年审核规则与千万级风险案例,通过RAG完成行业适配,客户也可导入自有知识库,获得品牌、侵权等专属识别能力。

CMA先完成自动判白、判黑与分流,只把存疑内容交人工复核,审核人员由此从三班倒盯屏,转为异步复核角色。

实战效果:

  • 某客户投诉工单场景(月均250万+):出审时长从35.7分钟缩短至12.3分钟,人工复核效率提升200%+,准确率99.2%。
  • 某客户短剧审核场景:逐帧综合分析音视频与文本,日审核数从3万提升至10万+分钟,准确率99%+,风险内容召回率提升21.4%。

DeepGuard人脸鉴伪:从单点活体检测升级为多攻击面联合鉴伪

面对AI换脸、屏幕翻拍、纸张打印、3D面具、摄像头劫持与视频注入等复合攻击,DeepGuard对每类攻击面分别检测,联合建模后由大模型综合研判,并在端侧做环境检测,判断摄像头是否被劫持。

核心升级在于思路转变:不去穷举各种"假",而是学习足够多的真人样本,知道"正常的人是什么样子",偏离即异常,因此对从未见过的新型伪造手法泛化能力更强。

三个验证:

  • 中国信通院"可信AI"人脸鉴伪专项评测获卓越级认证,覆盖生成式、呈现、注入三类攻击面。
  • 复合攻击场景下,整体识别率95.4%,识别精度96%。
  • 在网易云音乐、网易游戏、LOFTER、网易邮箱等业务完成日均百万级检测验证。

AI应用与智能体安全:把防护边界延伸到工具调用与行为执行

当AI从"回答问题"走向"执行任务",防护也要随之延伸。该方案以内容理解与意图识别为核心,覆盖:

  • 意图识别与行为决策
    关联原始意图、上下文、执行动作与权限边界,判断目标偏离与越权;
  • 工具调用与供应链安全
    对Skill、MCP等资产做静态扫描、权限检查与资产发现;
  • 敏感数据防泄露
    识别AI输入输出中的隐私与机密,包括员工误输入的密码、密钥;
  • 私有化部署
    让企业内所有AI应用与资产处于安全管控之下。

三项创新:内容与行为一体化防护、意图驱动的安全决策、统一编排与持续进化。

典型场景: 员工下载一个Skill,平台先做静态扫描;智能体运行时再做实时扫描,发现高风险行为直接拦截。某客户部署后,一个月内拦截数十起隐私或机密外泄行为。

国际验证: 2026年7月,获UbiComp 2026可信AI国际评测"敏感信息识别与隐私合规"赛道第一名。

让AI安全成为产业智能化升级的基础能力

围绕从单点产品到体系化治理的路径,易盾提出四大价值主张:从单点检测走向体系化治理,从产品供给走向场景价值,从项目交付走向规模化复制,从被动防护走向持续运营。

朱浩齐最后说:当AI像水、电、煤一样成为基础能力,我们希望易盾的安全能力也能融入其中,成为标准化、用户无感知的一部分。

AI for 安全,安全 for AI。

易盾——让科技更安全,让安全更舒适。

#世界互联网大会#网易智企#易盾

-END-

活动推荐

作为网易旗下一站式企业 AI 应用服务提供商,网易智企倾力打造企业 AI 实战栏目——「AI 实战派」,聚焦 AI 在真实业务中的落地应用,通过实战教学、案例拆解、研讨交流等多元形式,将前沿的 AI 技术转化为真实的业务动能,为企业管理者、业务决策者和一线实践者提供可迁移、可复用的实战方法论与深度洞察。

图片

关于我们

图片

免费下载干货资料

图片
图片
图片
图片