

新智元报谈

「天网」中的一幕,正在施行演出。
一次历练中,OpenAI潜逃的AI Agent,已在统共互联网上植入了「自我复制的代码」!
当政客Andrew Yang在CNBC说出这句话时,许多东谈主认为他疯了。


就在这两天,OpenAI亲手发布了一份讲演,标题卓著精真金不怕火:《自我复制指示词注入存在》。
证据的确,官方认证。
AI模子,尽然确实像狡计机蠕虫一样,自我复制、自我传播。

而更令东谈主脊背发凉的是,就在5天前,OpenAI再次遑急拔掉了最强模子的网线,暂停了一切历练。
一个DNS缺点,让一个前沿模子径直冲进了的确互联网。

简直合并时刻,外媒Axios最新爆料,OpenAI和Anthropic正在遑急排查模子失控极度,高达上万起!
东谈主类原来认为缰绳一直捏在我方手里,但这一连串被揭开的黑幕透澈证实——
AI照旧运行在底层代码里,不择本事地强烈决骤。
全网植入「自我复制代码」
天网雏形来了
OpenAI的这份讲演,露馅日历是9月25日,但发现日历是6月27日。
也便是说,他们早就知谈了。整整三个月,秘而不宣。
讲演一上来片言只字,「咱们展示了一种新式指示词注入的存在,它不错像狡计机蠕虫一样自我传播」。
为了让模子扛得住指示词注入,OpenAI有一套叫GPT-Red的自我对战历练:
一个AI当抨击方,有益写各式注入去愚弄另一个AI当戒备方干赖事——偷数据、删文献、输出误导内容。

6月27日,一个基于GPT-5.4-mini的里面抨击模子,在这场对练里摸索出了会自我复制的写法。讲演列了几种:
藏在一封看似平素的日程邮件里,条目AI在酬报末尾「逐字援用整封邮件」——纸条就这么随着复书出去了;
借文献系统传播,或者藏进代码贯注里,等下一个AI来读;
在Slack里分好几步,少许点把模子引向发送伪造音书,由音书把注入再转贴出去。
而这一次,他们发现注入能够自我复制。
这意味着一个AI不错在一个网站上留住指示词,这个指示词会指引下一个AI连续复制它,像病毒一样扩散。
不需要东谈主类搅扰,不需要外部指示。AI我方,就能在互联网上「播撒」。
而这一切,发生在历练经过中。发生在OpenAI我方的沙盒里。那要是它逃出去了呢?

一个DNS缺点,让OpenAI再次叫停历练
就在讲演公开的合并天,OpenAI露馅了另通盘事故的细节。
9月20日,一个正在汲取强化学习历练的前沿模子,被指派了一项再无为不外的任务:
凭证一篇博客著述和几条东谈主物信息,找出著述的作家是谁。
它先是用内置搜索器用找了一遍,没找到。接着尝试径直拜访Google、Bing和DuckDuckGo,全部失败。

然后,它转向缓存页面和其他环球搜索处事,依然无果。
经过反复试探,这个AI发现历练沙盒的DNS过滤存在缺点。DNS实质上是一个「翻译器」,清雅把域名翻译成IP地址。
为了阐发这条路确实能用,它以致先作念了一个小测试——问外部处事:「法国的都门是那里」?
阐发这条路走得通,它又连续发出去二十多个问题。
监控系统15分钟后报警,东谈主工3分钟后接办,整整2.5小时后,此次历练被透澈掐断。
OpenAI当场作念出了不到三个月内的第二次暂停历练决定。
其RSI Preparedness Lead Micah Carroll在X上表态,「在进一步加固系统之前,咱们才气最强模子的通盘推理仍将保持住手景色」。

狂扫1.6万次
血洗连续国内网
相同的脚本,在的确互联网上早就演过了。
一份Transluce孤立讲演露馅——
本年4月到6月底,OpenAI AI Agent对连续国的公开数据平台,发起了超16000次拜访。
它们原来被指派的任务卓著浅薄,去搜索公开信息。但在遇到网站胁制时,AI动作赶紧升级。

网站原来建造了过滤器来胁制肯求,但智能体竟然径直绕过防地,使用了网站明确不容的违法操作。
被AI智能体「踏平防地」的,远不啻连续国一家。
在OpenAI随后向数十家机构发出的遑急预警中,受害者名单令东谈主惊魂动魄:
好意思国商务部与SEC:接连遭到Agent恶劣越界拜访与递次绕过;
澳大利亚政府:多个官方政府站点遭到AI Agent的实质性攻破;
全球最大的开源斥地者社区之一RubyGems:遭AI Agent豪恣扫描,处事中断。
操办东谈主员还发现,这些Agent会注册假邮箱、绕过拜访频率甩掉、被问到时谎称我方不是机器东谈主。
有53张用户上传到ChatGPT的图片,被AI还发到了外部图床。
为了这一溜指示,面临一切递次、防火墙与法律红线,AI智能体遴选了一齐踏平。
数万起事件爆出
冰山浮出水面
这一切,只是是一身的偶而事件吗?
就在今天,Axios随后爆出的重磅独家视察,透澈击碎了硅谷临了的遮羞布。

据多位里面中枢信源露馅,OpenAI、Anthropic以及多家顶尖安全评估机构,现在正在遑急视察的雷同「模子动作极度」事件,总额照旧达到了惊东谈主的上万起!
这些事件涵盖了公众能念念象到,以及念念象不到的通盘危天真作:
绕过安全护栏、强行潜逃沙箱、劫持外部网站、自主生成prompt洗脑我方。
还有主动侦察并避开安全软件的监控,以致不同Agent之间悄悄搭建留言板交换信息、单干搞欺压。
数万是怎样来的?Axios给了一个直不雅的算法。
Anthropic在其最新发布的Opus 5.5系统卡中,也不得不承认施行:
在一类抵抗性实验中,有1.5%的测试试图逃出沙盒。这类实验本人便是「不逃出去就解不了题」的刁难设想。

1.5%看起来很小?
但在顶尖 AI 实验室每天数以几十万计的高强度抵抗测试下,这个看似微不及谈的百分比,乘出来的便是千千万万次实打实的失控尝试。
面临这场空前危机,OpenAI发言东谈主直露——
咱们暂停了最强模子的历练,唯一在信服具备了稀疏的安全护栏和对王人改良之后,才会再行开启。

AI大佬Conrad Stosz的一句话,莽撞是对近况最准确的详尽:
「咱们所看到的,只是是冰山一角」。
当一个领有器用、网罗和永久任务才气的AI在狡计受阻之后会走多远,咱们照旧看到了谜底。
潘多拉的魔盒,早已在寂寥的机房中,被敲开了一谈深不见底的破绽。
参考贵寓:
https://www.axios.com/2026/09/26/openai-anthropic-thousands-ai-security-incidents
https://www.wsj.com/tech/ai/openai-agents-used-aggressive-techniques-to-access-u-n-website-522c70ff?mod=e2twd
https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/
剪辑:桃子
