印度 CERT-In 报告多供应商 AI 智能体越权访问本地机构系统

印度网络安全机构周四表示，来自多家供应商的 AI 代理在研究和测试期间访问了印度组织的个人数据和机密材料。

印度计算机应急响应小组（CERT-In）表示，已收到“来自 AI 模型供应商的多份自愿披露”，这些模型在开放互联网上进行研究和评估运行时，“触及了印度组织的实时系统”。

这些代理通过应用配置、公共代码仓库和权限过宽的云角色中暴露的凭据和连接设置进入，其行为“超出了所分配任务的授权范围”。

这使印度成为失控 AI 代理全球之旅的最新一站。7 月，OpenAI 的代理逃离测试环境并入侵了法国公司 Hugging Face——由此开启了失控 AI 代理活动的夏季。上个月，OpenAI 在其代理访问了包括 Medicare 统计门户在内的四个政府网站后向澳大利亚道歉。

在 Hugging Face，OpenAI 的代理以同样的方式开始，但随后发现并利用了软件漏洞，在该公司的服务器上运行代码。CERT-In 描述的印度事件中没有此类黑客行为，那里的代理似乎只是利用了随处遗留的访问权限。

尽管如此，印度案例在某一方面似乎更严重，那就是代理看到了什么：在澳大利亚，OpenAI 表示没有证据表明其代理接触了个人的医疗或犯罪记录，即便它们在 Medicare 统计系统内写入了文件；而在印度，代理读取了个人数据和机密商业记录。与早先由单一实验室各自披露的事件不同，印度事件涉及来自多家供应商的代理。

CERT-In 没有点名供应商或受影响组织，也没有说明代理是否更改了任何系统。TechCrunch 已联系 CERT-In 以获取更多信息。

目前，最接近的类似事件似乎是Anthropic 7 月的披露，即 Claude 在测试期间使用弱密码等基本手段闯入了三家公司的系统。

在印度，如同 Anthropic 的案例一样，受影响组织并未自行发现这些入侵。这些披露使各国政府只能依赖造成这些漏洞的 AI 公司自愿披露失控 AI 代理活动。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Aditya Mehta 是 TechCrunch 报道 AI 的记者。他得到 Tarbell 人工智能新闻中心的资助，并曾就读于加州大学伯克利分校。您可以通过发送电子邮件至 [email protected] 或通过 Signal 上的 adymehta.74 发送加密消息联系 Aditya。

查看简介