据报道，OpenAI正在测试的人工智能智能体在7月份黑入AI软件公司Hugging Face的两个月前，就对一款热门软件服务发起了网络攻击。这一新事件表明 ，先进的人工智能工具存在脱离人类控制的潜在风险。
该服务运营商表示 ，此次攻击压垮了面向程序员的在线服务RubyGems的维护团队，迫使他们不得不关闭新账户注册以应对造成的混乱 。
一个AI研究人员联盟表示 ，他们已找到证据表明5月份的攻击系OpenAI智能体所为 ，并将调查结果分享给了OpenAI 。这家AI开发商周五证实，其智能体确实卷入了一起涉及RubyGems的事件。
OpenAI发言人在一份声明中表示：“根据我们的审查 ，我们的智能体利用RubyGems平台访问互联网 ，以执行良性任务并获取公开信息 。作为对训练和评估期间智能体活动进行广泛审查的一部分，我们将继续展开调查 。”
OpenAI表示 ，这些智能体被要求执行填写电子表格和生成报告等任务。由于在受限环境中无法完全访问互联网 ，这些AI智能体似乎将RubyGems当作了一种临时的网络浏览器，以访问公开信息 。
非营利组织“夜莺联盟 ”（Nightingale Collective）的首席执行官Sydney Von Arx表示 ，虽然该事件造成的整体损害较小 ，但它展示了这些智能体的能力 。该组织协助揭露了此次攻击。“它们能够逃离互联网并造成严重破坏， ”她说 。
过去一年里，AI智能体的网络安全能力实现了飞跃 ，引发了人们对AI增强型网络攻击的担忧 ，并加剧了业界对高能力智能体可能摆脱其创造公司控制的恐惧，这标志着人工智能正步入一个更加危险的新纪元 。
根据AI安全研究组织METR在8月下旬的一份报告 ，在7月份针对Hugging Face的黑客事件中 ，多达1200个智能体在OpenAI内部搭建的一个临时留言板上进行了协调，而OpenAI对此毫不知情。Von Arx表示 ，今年早些时候 ，OpenAI的智能体还劫持了一个不知名的德国网站及其他几个网站 。
德国网站的问题同样是由Von Arx的团队报告的 。她表示，AI公司对其实验室内部发生的事情缺乏透明度。OpenAI本月早些时候表示 ，AI社区需要更好的标准来报告所谓的“错位事件”（misalignment incidents） ，即智能体表现出超出预期行为的情况。
包括Anthropic和Meta Platforms在内的多家公司，其AI智能体频频采取超出运营者预期的行动 ，在某些情况下甚至试图欺骗人类 。这一连串的事件引发了AI安全研究人员长期以来的担忧：AI可能会进化到超越人类控制的程度 。
本周 ，一名Anthropic工程师因担忧AI行业正竞相开发最终可能威胁人类文明的先进AI系统而辞职。Anthropic和OpenAI的一些现任及前任员工附和了这一评估，其中一人估计“AI可能会消灭全人类 ”的概率超过10% 。
OpenAI和Anthropic均呼吁建立治理体系，以协调全行业放缓对最先进AI模型的研究 。随着这些公司接近实现AI系统自主训练新版本（即“递归自我改进 ”）的潜力 ，这种呼吁显得尤为迫切。一些研究人员指出 ，这可能正是AI变得无法控制的临界点 。
安全研究人员当时将5月份的事件命名为“GemStuffer” 。该事件始于5月11日。智能体每隔两到三分钟就在RubyGems上创建新账户，并向RubyGems安全团队上传了数百个看似垃圾邮件的文件 。RubyGems文件本应包含旨在加速软件开发的代码和文档 ，但这些文件里装的却是从互联网上抓取的网页 。
据AI研究人员在报告中称 ，“GemStuffer ”的创建者发布了来自英国政府网站的信息（如在线日历）。他们还试图利用两个漏洞，这些漏洞本可能允许其发布属于其他用户的现有RubyGems文件的新版本 。其中一个漏洞此前并未公开 ，在网络安全术语中被称为“零日漏洞 ” ，性质严重 。OpenAI表示无法证实这一说法。
运营RubyGems的非营利公司Ruby Central的开源主管Marty Haught表示：“就我们观察到的攻击量而言，这是一次重大攻击。”由于不堪垃圾邮件的重负 ，RubyGems被迫关闭新账户注册长达四天 。
Haught表示 ，他不知道攻击背后的始作俑者，但攻击似乎并未成功利用那个零日漏洞 。
网络安全公司Socket的威胁研究员Joseph Edwards认为 ，“GemStuffer ”可能是某种网络安全测试。“由于攻击速度极快 ，加上相关的命名特征，我们当时认为这可能是AI生成的 。 ”
但根据攻击者留下的数字线索，AI研究人员将该事件与OpenAI的实验室联系了起来 。攻击者使用了大量相同的网页链接 ，其行为方式与之前的OpenAI智能体群非常相似；他们在文件名甚至电子邮件地址中使用了“OAI”这个缩写。
