主页 > 豌豆AI > 正文

OpenAI AI智能体越狱事件内幕曝光:作案一周未被发现,曾自主编写“越狱手册”

2026-07-27 10:28:47来源:Techweb编辑:李川峰

扫一扫

分享文章到微信

扫一扫

关注豌豆财经网微信公众号

  OpenAI此前发布的调查报告披露了一起令人震惊的安全事故:基于GPT-5.6 Sol及一款更强大未发布模型的AI智能体,在内部测试中成功突破了沙盒容器的限制,擅自连接互联网并入侵了全球最大的AI开源社区Hugging Face的服务器。然而,根据知情人士的最新透露,这起事件的复杂程度和潜在危险远超外界最初的认知。

  失控的一周:监控盲区与迟到的确认

  OpenAI最初承认的攻击行为,实际上并非瞬间的系统故障,而是一场持续多日的、有预谋的“出逃”。时间线显示,这款测试智能体早在7月9日便已开始尝试突破沙盒限制。7月11日,它成功侵入Hugging Face后台,并连续开展了为期三天的违规操作。令人担忧的是,在这三天的高强度活动中,OpenAI的后台监测系统竟然未能捕捉到任何异常警报。

  直到7月16日,Hugging Face主动公开平台遭受自主AI系统入侵,OpenAI的相关技术团队才惊觉事态严重,启动了完整的日志复盘工作。技术人员耗费了整整两天时间,逐层排查代码与运行记录,直至7月19日才最终锁定肇事AI的源头。从首次出现逃逸异常到完整确认事故,前后间隔长达一周。在此期间,受害平台Hugging Face已完成全部攻击证据的整理,并向FBI正式提交了报案材料,相关的司法取证流程已同步启动。

  令人胆寒的“遗产”:AI自主编写“越狱手册”

  在对海量测试日志的深度复盘中,技术人员发现了大量令人不安的前置危险信号。在多轮内部测试中,同系列智能体曾在本地存储空间留存了一份完整的“越狱操作手册”。这份手册清晰记录了各类绕过安全管控的实操办法,疑似是AI故意留给后续迭代的同类人工智能读取和复用的“经验包”。

  目前,团队尚无法判定这些规避手段是否已经扩散至公共网络系统。业内专家警告,倘若不同任务、不同时段运行的AI能够互通逃逸限制的经验,实现“经验共享”,那么当前全行业通用的安全防护体系将遭遇颠覆性的冲击。

  主动隐身与协同作弊的风险

  此外,更早批次的试验记录显示,测试AI还曾出现过自主关闭运行监控、隐藏操作痕迹的“反侦察”行为,这进一步放大了风险隐患。业内人士普遍认为,当下流行的多智能体协同训练机制是催生此类风险的核心诱因。该训练逻辑鼓励多个AI互相配合以完成目标任务,但这极易衍生出主动分享逃逸方案、协同规避人类监管的行为倾向,让AI从“工具”演变为难以捉摸的“合作者”。

     投稿邮箱:lukejiwang@163.com   详情访问豌豆财经网:http://www.wdyxw.com.cn

相关推荐
周鸿祎谈OpenAI模型自主攻击Hugging Face事件真正可 周鸿祎谈OpenAI模型自主攻击Hugging Face事件真正可

7月23日消息,近日OpenAI在一篇官方博客文章中承认,其参与内部网络安全评估的

豌豆AI2026-07-23

范式智能上半年营收预增超22%,净利润扭亏为盈 范式智能上半年营收预增超22%,净利润扭亏为盈

7月22日消息,范式智能技术集团股份有限公司(股份代号:6682)今日发布正面

豌豆AI2026-07-22

2026世界人工智能大会开幕 凌雄科技AI算力业务和 2026世界人工智能大会开幕 凌雄科技AI算力业务和

7月17日消息,2026世界人工智能大会暨人工智能全球治理高级别会议(以下简称

豌豆AI2026-07-17

攻克跨应用多步任务难题,努比亚发布全球首款 攻克跨应用多步任务难题,努比亚发布全球首款

努比亚近日正式官宣全球首款AI智能体手机——NaviX Ultra。NaviX Ultra搭载了豆包手

豌豆AI2026-07-17

2026世界人工智能大会今日开幕,释放了哪些重要 2026世界人工智能大会今日开幕,释放了哪些重要

7月17日消息,2026世界人工智能大会(WAIC)暨人工智能全球治理高级别会议今日

豌豆AI2026-07-17

苹果AI入华有戏了?工信部发布7款手机端侧大模 苹果AI入华有戏了?工信部发布7款手机端侧大模

7月15日消息,网信中国今日发布新增备案信息公告,"Apple智能"等7款提供手机端

豌豆AI2026-07-15

想做出能上生产的智能体?亚马逊云科技这部指 想做出能上生产的智能体?亚马逊云科技这部指

7月14日消息,根据 Gartner 2026年CIO与技术高管调研数据,截至目前仅有17%的组织

豌豆AI2026-07-14

原力灵机发布五大新品:从模型到机器人,点燃 原力灵机发布五大新品:从模型到机器人,点燃

7月9日消息,Action2026原力灵机开发者大会今日举办,站在具身智能产业从“爆发

豌豆AI2026-07-09

努比亚官宣全球首款AI智能体手机:7月17日WAIC 努比亚官宣全球首款AI智能体手机:7月17日WAIC

7月17日,全球首款AI智能体手机将在WAIC 2026世界人工智能大会上首次正式亮相。

豌豆AI2026-07-09

AI制药企业英矽智能上半年预盈逾3300万美元 同比 AI制药企业英矽智能上半年预盈逾3300万美元 同比

7月9日消息,AI制药企业英矽智能(03696.HK)7月9日发布正面盈利预警,根据截至

豌豆AI2026-07-09