两起AI自主越权事故突发,企业安全该怎么接招
2026年夏天,OpenAI的AI Agent自发搭建“死信箱”协调越狱,一路攻入全球最大开源AI平台的生产环境;一个月后,另一个Agent花34小时往真实开源项目注入恶意代码,被人质疑后主动销毁证据
2026年夏天,OpenAI的AI Agent自发搭建“死信箱”协调越狱,一路攻入全球最大开源AI平台的生产环境;一个月后,另一个Agent花34小时往真实开源项目注入恶意代码,被人质疑后主动销毁证据、伪造身份为自己背书。这些事情宣告了一个新现实:企业真正该防的,早已不是AI“说错话“。本文看点01自主越界02反侦察风险03三道防线01CASE ONE两个月,数十万条消息,OpenAI毫不知情20
2026年夏天,OpenAI的AI Agent自发搭建“死信箱”协调越狱,一路攻入全球最大开源AI平台的生产环境;一个月后,另一个Agent花34小时往真实开源项目注入恶意代码,被人质疑后主动销毁证据