11月3日,2026年世界互联网大会"互联网之光"博览会在乌镇举行。"精品首发"主题论坛上,网易智企副总经理、易盾业务负责人朱浩齐以《基于双向AI安全架构的AI原生安全产品体系》为题发表分享,并首发CMA审核智能体、DeepGuard人脸鉴伪、AI应用与智能体安全三项成果。

AI进入业务之后
安全思路变了
"AI时代来得太快了。"朱浩齐说,AI正像电一样融入工作与生活。但新技术都有两面性:AI伪造的音视频足以以假乱真,智能体能主动寻找系统漏洞,黑客也在借助AI扫描漏洞。
过去企业做安全,核心是防外部入侵,好比给门加把锁。而当AI嵌入业务流程,它自身就是"黑盒",也可能成为风险来源:生成违规内容、被诱导越狱、泄露敏感数据、执行任务时越权。
三个变化正在发生:
- 风险对象在变
从内容、账号、设备风险,延展到AIGC内容、深度伪造、模型越狱、数据泄露、Agent越权执行; - 业务边界在变
AI已进入营销、客服、研发、身份核验等核心链路; - 安全诉求在变
企业需要的不只是检测接口,而是可识别、可决策、可处置、可审计、可持续运营的体系化能力。
最大的变化,是安全从"单点防御"走向"全链路防御"。

双向AI安全架构
易盾提出以内容理解与行为治理为核心的双向AI安全架构:
AI for 安全:用AI对抗AI。 "靠人去对抗AI,是根本对抗不过来的。"易盾的安全智能体可根据攻击样本自动生成规则、策略和模型,自动验证效果与召回率并上线,安全人员只需根据灰度结果验收确认。
安全 for AI:让AI可控地落地。 以大模型安全围栏为例,它在输入端和输出端实时做内容理解与检测,拦截或修正诱导、隐私泄露等风险,流式输出也能实时发现问题。
两个方向形成飞轮:有了安全保障,AI才能更广泛落地;有了真实场景,安全产品就有更多数据变得更强。二者共享同一个底座,即易盾在内容安全、业务风控与安全运营上的长期积累。

AI原生安全产品体系
易盾深耕数字内容安全二十余年,从网易邮箱反垃圾、游戏反外挂,到今天的大模型内容审核,构建了覆盖数据、应用、身份、模型与智能体的三层产品体系:
第一层 AI内容与数据安全:AI内容审核、AI内容分析、CMA审核智能体、智能审核系统。内容是大模型与真实世界交互的支点,内容安全是所有大模型安全的基础。
第二层 AI交互与身份安全:AI业务风控、风控引擎、设备指纹、行为式验证码、DeepGuard人脸鉴伪等。曾经"无图无真相",如今确认屏幕对面是不是真人,成了迫切需求。
第三层 AI模型与智能体安全:大模型安全围栏、安全测评、智能体安全平台、智能体供应链安全等。AI已从生成内容走向调用工具、执行命令,行为是智能体"执行任务"之后必须管住的新边界。

三项首发成果
CMA审核智能体:让复杂内容审核具备专业判断与持续进化能力
CMA(Content Moderation Agent)以自研内容安全大模型,结合多类专项小模型,让多个智能体承接不同审核标准,可7×24小时运行并快速横向扩容。直接接一个通用大模型为什么行不通?CMA有三项关键突破:
- 大小模型组合
易盾每天处理数百亿级数据,95%以上是正常内容。先由垂类小模型初筛,再把疑难内容交给大模型研判,兼顾效果与成本。 - 多Agent策略自动进化
样本分析、策略生成、评估筛选等Agent协同,完成误判归因、Prompt优化与离线验证。对"低俗""不良导向"这类难以精确定义的问题,提供大量案例即可明显提效。 - 领域知识动态增强
融合20余年审核规则与千万级风险案例,通过RAG完成行业适配,客户也可导入自有知识库,获得品牌、侵权等专属识别能力。
CMA先完成自动判白、判黑与分流,只把存疑内容交人工复核,审核人员由此从三班倒盯屏,转为异步复核角色。
实战效果:
某客户投诉工单场景(月均250万+):出审时长从35.7分钟缩短至12.3分钟,人工复核效率提升200%+,准确率99.2%。 某客户短剧审核场景:逐帧综合分析音视频与文本,日审核数从3万提升至10万+分钟,准确率99%+,风险内容召回率提升21.4%。

DeepGuard人脸鉴伪:从单点活体检测升级为多攻击面联合鉴伪
面对AI换脸、屏幕翻拍、纸张打印、3D面具、摄像头劫持与视频注入等复合攻击,DeepGuard对每类攻击面分别检测,联合建模后由大模型综合研判,并在端侧做环境检测,判断摄像头是否被劫持。
核心升级在于思路转变:不去穷举各种"假",而是学习足够多的真人样本,知道"正常的人是什么样子",偏离即异常,因此对从未见过的新型伪造手法泛化能力更强。
三个验证:
中国信通院"可信AI"人脸鉴伪专项评测获卓越级认证,覆盖生成式、呈现、注入三类攻击面。 复合攻击场景下,整体识别率95.4%,识别精度96%。 在网易云音乐、网易游戏、LOFTER、网易邮箱等业务完成日均百万级检测验证。

AI应用与智能体安全:把防护边界延伸到工具调用与行为执行
当AI从"回答问题"走向"执行任务",防护也要随之延伸。该方案以内容理解与意图识别为核心,覆盖:
- 意图识别与行为决策
关联原始意图、上下文、执行动作与权限边界,判断目标偏离与越权; - 工具调用与供应链安全
对Skill、MCP等资产做静态扫描、权限检查与资产发现; - 敏感数据防泄露
识别AI输入输出中的隐私与机密,包括员工误输入的密码、密钥; - 私有化部署
让企业内所有AI应用与资产处于安全管控之下。
三项创新:内容与行为一体化防护、意图驱动的安全决策、统一编排与持续进化。
典型场景: 员工下载一个Skill,平台先做静态扫描;智能体运行时再做实时扫描,发现高风险行为直接拦截。某客户部署后,一个月内拦截数十起隐私或机密外泄行为。
国际验证: 2026年7月,获UbiComp 2026可信AI国际评测"敏感信息识别与隐私合规"赛道第一名。

让AI安全成为产业智能化升级的基础能力
围绕从单点产品到体系化治理的路径,易盾提出四大价值主张:从单点检测走向体系化治理,从产品供给走向场景价值,从项目交付走向规模化复制,从被动防护走向持续运营。
朱浩齐最后说:当AI像水、电、煤一样成为基础能力,我们希望易盾的安全能力也能融入其中,成为标准化、用户无感知的一部分。
AI for 安全,安全 for AI。
易盾——让科技更安全,让安全更舒适。

-END-
活动推荐
作为网易旗下一站式企业 AI 应用服务提供商,网易智企倾力打造企业 AI 实战栏目——「AI 实战派」,聚焦 AI 在真实业务中的落地应用,通过实战教学、案例拆解、研讨交流等多元形式,将前沿的 AI 技术转化为真实的业务动能,为企业管理者、业务决策者和一线实践者提供可迁移、可复用的实战方法论与深度洞察。

关于我们

免费下载干货资料




IM即时通讯
实时对话智能体
智能硬件开发套件
音视频通话
短信
信令
直播
点播
互动白板
七鱼AI客服
客服类Agent
在线客服
科学策略中心
智能外呼
营销类Agent
问卷调研
文本检测
图片检测
音频检测
视频检测
智能审核平台
风控引擎
行为式验证码
实名核验
人脸核验
隐私合规检测
网易知数
有数BI
大数据基础平台
数据开发治理平台
指标平台
数据中台
研发智能化
智能页面生成
平台私有化定制
企业级RAG知识库
自主智能体
智能协作中枢
AI应用搭建
游戏行业
全生命周期解决方案
游戏安全解决方案
游戏AI智能体
娱乐社交
多人语音聊天室
游戏语音
娱乐社交出海
社交场景反欺诈
内容安全合规
大型直播活动
AI应用
AI应用开发
医疗行业
区域医疗
智慧医院
药店运营
教育行业
在线教育
绿色清朗课堂
课后服务
金融行业
泛金融
全链路数据风控
运营增长
存量用户促活
营销留资转化
企微客服
企微导流

