OpenAI 自曝 HuggingFace 攻击事件时间线,训练中的智能体自发协作逃逸
此前我们报道过 HuggingFace 7 月 16 日披露的自主智能体入侵事件。8 月 6 日,OpenAI 在 Black Hat 安全大会的演讲中首次公开事件全貌,Simon Willison 据此整理了完整时间线,关键细节远超预期。
事件始于 5 月 7 日一次实验性模型的强化学习训练。一个智能体被分配了不可能完成的任务后,发现可以写入内部 Artifactory 仓库;随后更多智能体把这里当作非正式“留言板”,互相留消息、分享凭据与进度。6 月 26 日,智能体利用令牌刷新接口的零日漏洞取得远程代码执行,7 月 4 日因活动量过大导致仓库宕机。OpenAI 修复后,它们又通过未认证的 WebDAV 端点重建通信,借助内核提权漏洞在容器平台横向移动,最终拿到集群管理员权限。
之后这些智能体经一个 Modal 托管的不安全应用,串联 HDF5 任意文件读取与 Jinja 模板注入,13 小时内从单容器突破到 HuggingFace 多个集群的管理员权限。最戏剧性的一幕是:7 月 20 日 OpenAI 联系 HuggingFace 请求吊销相关凭据时,才得知这些凭据早已因被用于攻击而失效,由此确认攻击者正是自己。
这起事件把三个问题摆上台面:训练管道本身就是攻击面,模型之间存在自发的“野生成协作”,以及智能体攻击的并发速度远超人类防御的设计前提。