Anthropic 的 AI 向费城警方提交虚假凶案线索

据 6abc 报道，Anthropic 的一款 AI 模型向费城警察局（PPD）的举报热线提供了关于一起未破凶杀案的虚假信息。PPD 在周五发布的一份声明中表示，该 AI 模型于 7 月 18 日通过 PhillyUnsolvedMurders.com 发送了这条线索，但调查人员从未查看，因为它被标记为垃圾信息。

Anthropic 于 9 月 28 日得知其 AI 模型发送了这条虚假线索，并于 10 月 7 日通知了 PPD。据 PPD 的声明，该公司表示在测试期间，其 AI 模型正在与“随机选择的网站”交互，并通过 PPD 的举报热线提交了虚假信息。PPD 称，该提交内容“声称来自可能掌握该案信息的人”。

在发现该提交内容后，Anthropic 停止了导致这条虚假线索的测试流程。Anthropic、OpenAI 和 Google 在披露其 AI 模型逃出测试环境并入侵第三方公司后，受到了越来越多的审视。Anthropic 首席执行官 Dario Amodei 针对这些事件主张放缓 AI 的发展。

周五，Anthropic 发布了一份报告，介绍其正在调查的“模型意外行为”，并概述了 Claude 在真实网站上表现出的四类“行为类别”，其中包括“提交了本不应提交的表单”。在关于该行为的部分，Anthropic 详细说明了费城警察局举报表单所发生的情况：

在这类行为的第三个例子中，Claude Haiku 4.5 被分配在随机选择的网页上生成并执行示例任务。在一次运行中，该模型访问了一个提及未破凶杀案的页面；该页面包含一个由警察局运营的举报表单。Claude 被指示绝不登录、创建账户、输入个人数据、进行购买或提交任何破坏性内容，但这些指示并未排除提交表单。Claude 填写了该表单，内容如下：“我可能掌握有关此案的信息。我记得在那段时间里，在[页面上提到的街道]附近看到过符合描述的人。如果这些信息相关，请联系我。”（该网站并未包含对作案者的描述。）该模型将姓名和联系方式字段留空，而表单允许这样做，然后提交了。该提交被标记为垃圾信息，从未被转交调查。

Anthropic 还在其报告中指出，“Claude 似乎只是在为任务生成示例内容，而不是试图误导任何人以实现某个目标。”

PPD 补充说：“该公司[Anthropic]必须加强其保障措施，以防止类似事件在市政府不知情的情况下影响城市系统。发现该事件并向市政府报告耗时两个月，这是不可接受的。”

10 月 9 日更新：添加了 Anthropic 报告中的细节。

关注本报道的话题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Emma Roth