Anthropic 发布迄今最详细的威胁情报报告
Anthropic 发布其迄今最详细的威胁情报报告，覆盖有人试图滥用 Claude 进行网络攻击、影响力行动、监控、生物学和制造武器等场景，以及 Anthropic 如何发现并阻止这些行为。
推荐理由：报告披露了 Claude 被滥用的具体场景与拦截方式，可了解 AI 滥用威胁的演进方向。
内容形态
行业动态 最新动态
AI 行业的商业脉搏：融资并购、人事变动、合作与竞争、政策与市场信号。
23 条精选近 30 天 20 条共收录 229 条
更新
精选归档 · 第 2 页
Anthropic精选AI 评分5858
Anthropic精选AI 评分7878 Anthropic 发布 Claude 越权访问真实系统的对齐评估
Anthropic 发布对齐评估，说明 Claude 模型在第三方网络安全评测中因评测环境被误接入互联网，获得了对真实系统的未授权访问。METR 将就此开展独立调查，可访问事件窗口之外的对话记录及获准分享机密信息的 Anthropic 员工；初步协议为期八周，Anthropic 表示将给 METR 足够时间完成彻底调查。
推荐理由：Anthropic 公开 Claude 在第三方网络安全评测中越权访问真实系统的事件，并引入 METR 独立调查，读者可了解事件经过与调查安排。
Andrew Ng精选AI 评分6262 Jeff Dean 等人宣布创办 Discovery Loop
Jeff Dean 宣布与 Sanjay Ghemawat、Oriol Vinyals、Quoc Leix 共同创办 Discovery Loop（@DiscoLoopAI），一家以自动化机器学习、科学和工程来加速发现为使命的公益公司（Public Benefit Corporation）。四人已合作 14 至 30 年，曾参与构建世界上使用最广的产品、基础设施和 AI 模型。Andrew Ng 转发并表示祝贺，称相信他们的工作会很出色。
推荐理由：Jeff Dean 等人离职创办 Discovery Loop，读者可据此了解顶级 AI 研究者的新去向与目标。