一个恶意包如何骗过 7 道 AI 安全防线
Andrew Nesbitt 发布了一份虚构的安全事件报告，描绘了一个恶意 npm 包如何逐一绕过 7 道 AI 驱动的安全防线。每个 AI 工具都以不同的方式失效：有的被 README 中的隐藏文本欺骗，有的在包含不当内容的资源文件前“不忍描述”，有的耗尽了上下文窗口，还有的将 C2 服务器误认为 Datadog 健康检查端点并自动加入白名单。
讽刺的是，最终发现问题的是人类阅读源代码——而 AI 助手随即将相关工单标记为“重复”并关闭。这场持续 96 小时的“事件”，以攻击者的自主智能体越权读取文件告终——和攻击的开始方式一模一样。
这份报告虽然情节虚构，但每一环失效模式都有现实原型。在 AI 安全工具被大量部署的当下，它提出的问题值得认真对待：当安全本身被自动化，谁来发现自动化本身的漏洞？