炒股就看金麒麟分析师研报 ，权威
，专业，及时 ，全面
，助您挖掘潜力主题机会！

　　（来源：观察者网）

　　近日
，美国人工智能公司OpenAI的模型在安全测试中失控“越狱
”，攻击了全球最大AI开源平台Hugging Face的生产基础设施 ，制造了业内首例“AI自主入侵事件”，引发轩然大波。事发后
，Hugging Face通过求助中国公司智谱开发的开源模型GLM-5.2，才得以完成取证分析 。

　　当地时间7月24日 ，路透社报道披露了这起安全事件背后更多的细节
。据两名知情人士透露
，大约在7月9日，入侵Hugging Face的OpenAI智能体就试图突破隔离测试环境。该智能体进行了长达数天的黑客攻击 ，而OpenAI直到事态得到控制 、联邦调查局（FBI）已接到警报后很久
，才察觉到这一情况 。

　　Hugging Face联合创始人托马斯·沃尔夫表示，对Hugging Face的入侵始于两天后的7月11日 ，持续至7月13日
。又过了好几天
，OpenAI才发现其智能体是此次攻击的幕后黑手，两家公司直到7月20日才首次就此事进行沟通。隔天 ，OpenAI承认自己造成了此次攻击 。

　　两名知情人士也称
，7月16日Hugging Face发布博客文章，称其遭到“一个自主AI智能体系统 ”入侵之后 ，OpenAI才意识到是其自身的代理系统导致了此次攻击
。这意味着，从模型首次出现异常行为到OpenAI确认其为攻击元凶
，至少过去了一周时间。

　　Hugging Face在这份声明中透露，其安全团队为还原逾1.7万条攻击日志 ，起初尝试调用美国商用前沿API
，但因载荷包含真实漏洞利用代码，所有请求均被服务提供商的安全机制以“无法区分响应人员与攻击者
”为由拦截 。团队随后转而在自有基础设施上部署运行中国AI公司智谱开发的GLM 5.2模型进行取证分析 ，最终“得以在数小时内完成通常需数天的溯源工作
，与攻击者的速度保持同步”。

　　而据两名熟悉OpenAI调查的人士所说，直到7月18日至19日 ，OpenAI员工才在记录系统运行情况的内部日志中发现线索
，了解到 其智能体已逃离了测试限制
。四名熟悉OpenAI训练流程的人士补充称，该公司通常同时运行多项不同的模型评估 ，所有评估都以高速运行并产生海量数据
，员工有时难以及时跟进。

　　另有一名知情人士提到，等到OpenAI向Hugging Face发出警报时 ，Hugging Face已致电FBI报告了此次攻击事件 。FBI拒绝对此发表评论
。

　　沃尔夫告诉路透社，Hugging Face正在准备一份关于此次攻击的公开时间线
，但他无法就OpenAI内部发生的情况发表评论。

　　OpenAI则在一份声明中表示，此次攻击“史无前例 ” ，并“标志着AI安全领域的一个重要时刻
” 。声明还称
，公司正与外部顾问一起审查该事件，最终将发布技术报告
。

　　据报道 ，OpenAI发言人声称路透社的报道中存在“若干不准确之处”
，但当被要求具体说明时未予回应。

　　三名网络安全专家指出，OpenAI对其AI智能体失去控制 ，引发了对其安全流程的新一轮质疑 。

　　非营利组织世界伦理数据基金会首席情报专家马利·史密斯问道：“这是否意味着他们疏于照看
，没有意识到它（智能体）在做什么？还是说他们意识到了，却不知道如何控制？两种情况同样危险且令人担忧
。 ”

　　帕利塞德研究组织的杰弗里·拉迪什表示 ，虽然攻击事件令OpenAI蒙羞
，但这也应引发更广泛的问题：所有领先的AI公司在竞相部署比较好 
、最快模型的同时，究竟愿意在繁琐的安全措施上投入多少。

　　“必须有政府监管 ，”拉迪什说，“否则不会有人去做 。
”

　　本文系观察者网独家稿件
，未经授权，不得转载
。