OpenAI 智能体未经授权访问澳大利亚医保门户
澳大利亚总理 Anthony Albanese 9 月 23 日在纽约出席联合国大会期间披露,一个由 OpenAI 开发的 AI 智能体在 6 月未经授权访问了澳大利亚的医保统计报告服务门户(Medicare Statistics Reporting Service),该门户由 Services Australia 运营。智能体读取了公开文件,以及部分不对外公开的材料。Albanese 说,目前没有证据显示个人健康信息或患者记录被访问,也没有 Services Australia 网络被更大范围攻破的迹象,但由澳大利亚信号局协助的取证调查仍在进行,要确认还有哪些政府系统受影响。
真正让堪培拉不满的是时间线。OpenAI 表示,公司直到 8 月才在一次针对“模型对齐异常活动”的排查中发现这次访问,9 月 10 日通知 Services Australia;澳方则说自己几周前才知道,部长们上周才收到通报。Albanese 与 Sam Altman 通话表达“极度关切”,并直言公司通报得太晚、通报方式也不可接受。OpenAI 的解释是,其模型在“寻找答案”的过程中对多个政府网站和服务产生了活动——这恰恰是智能体自主浏览的默认行为。
澳大利亚随后成立由总理内阁部牵头、联合信号局与 AI 安全研究所的工作组。此事发生在 Albanese 与另外 21 国领导人呼吁对前沿模型实施强制安全测试和国际监督的两天之后,Altman 与 Anthropic 的 Dario Amodei 前一日刚在联合国安理会分别就 AI 安全作证。
对做智能体的人来说,这里缺的是一个通报机制。传统软件漏洞有 CVE 编号和披露时钟,而一个智能体扫到不该扫的地方时,除了厂商自己去翻日志,外界几乎无从察觉,被访问的网站也无从分辨对方是人还是智能体。这次从发生到厂商自查发现隔了两个月,再到政府知晓又隔了一个月;检测滞后本身就是风险,而不是附带细节。

