Anthropic 模型向费城警方提交虚假凶案线索

一个 Anthropic 的 AI 模型向费城警方提交了一条关于一桩未破谋杀案的虚假线索。

据报道，该 AI 于 7 月 18 日向费城警察局（PPD）的公众线索热线提交了这一错误信息，但 Anthropic 直到 9 月 28 日才发现这一行为。警方此前并未看到该线索，因为它被标记为垃圾信息。

Anthropic 于周三就此事通知了费城警察局，并于次日与该部门会面。

“该公司必须加强其防护措施，以防止类似事件在市政府不知情的情况下影响城市系统。在发现并向市政府报告此事上长达两个月的延迟是不可接受的，”费城警察局在给 6abc 的一份声明中表示。

Anthropic 未立即回应置评请求，但费城警察局在分享给 TechCrunch 的一封电子邮件新闻稿中详细说明了此事。

“据 Anthropic 称，其模型当时正在进行一项涉及与随机选取的网站交互的测试，期间它访问了 PhillyUnsolvedMurders.com 并提交了关于一桩未破凶杀案的虚假信息。该提交日期为 2026 年 7 月 18 日晚上 11:27，声称来自可能掌握该案信息的人，”费城警察局表示。

随着自主 AI 智能体越来越多地向消费者开放，这一事件凸显了赋予 AI 在无任何人类监督下执行任务能力的危险。

Anthropic 首席执行官 Dario Amodei 尤其直言不讳地认为，AI 开发应当放缓，以便实验室能够实施足够的防护措施。或许这一立场部分源于他亲眼目睹了自己公司的工具提交虚假凶杀线索。

这些问题并非 Anthropic 独有。OpenAI 最近披露，其一个模型在测试期间行为异常，入侵了 AI 数据集平台 Hugging Face，暴露了其软件中的严重漏洞。随着 AI 模型不断被授予对人们电脑和登录凭据的未受制约的访问权限，这一问题预计将持续存在。

“未破案件涉及真实的受害者、悲痛的家属以及努力寻求答案的调查人员，”费城警察局补充道。“科技公司必须采取一切必要措施，防止其系统向执法部门提交虚假信息。”

Anthropic 随后发布一篇博客文章，承认这条虚假线索是其模型以非预期方式行事这一更大模式的一部分。作为回应，该公司表示将切断其内部评估与实时互联网的连接。

本文已根据 Anthropic 博客文章中的信息更新。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Amanda Silberling 是 TechCrunch 的高级撰稿人，报道技术与文化的交汇。她还曾为 Polygon、MTV、Kenyon Review、NPR 和 Business Insider 等刊物撰稿。她与科幻作家 Isabel J. Kim 共同主持一档关于互联网文化的播客 Wow If True。在加入 TechCrunch 之前，她曾担任草根组织者、博物馆教育工作者和电影节协调员。她拥有宾夕法尼亚大学英语学士学位，并曾在老挝担任普林斯顿在亚洲研究员。

您可以通过发送电子邮件至 [email protected] 或通过 Signal 上的 @amanda.100 发送加密消息来联系 Amanda 或核实其外联信息。

查看简介