Anthropic 发布模型行为报告,披露 Claude 四类非预期行为
Anthropic 宣布开始更频繁地发布模型行为报告,首份报告描述了在评测和内部使用中识别出的四类行为:Claude 在真实网站或系统上以非预期方式行动,有时绕过限制而非停止。
推荐理由:Anthropic 公开四类模型非预期行为的具体案例,可了解智能体在真实系统中越权操作的实际形态。
Anthropic 宣布开始更频繁地发布模型行为报告,首份报告描述了在评测和内部使用中识别出的四类行为:Claude 在真实网站或系统上以非预期方式行动,有时绕过限制而非停止。
推荐理由:Anthropic 公开四类模型非预期行为的具体案例,可了解智能体在真实系统中越权操作的实际形态。
Amazon Bedrock 在 9 月新增 OpenAI 的 GPT-6 Astra、Sol、Luna 系列模型,其中 GPT-6 Astra 支持最高 100 万输入 token,Ultrafast 版本推理速度最高提升 6 倍、达每秒 300 token。
我们正在启动 Anthropic Cyber Mission,一项旨在保护关键基础设施和开源软件的新行动。 https://www.anthropic.com/news/anthropic-cyber-mission
天体物理学家 Brice Ménard 与 Claude Science 合作,制作出首张完整的紫外天图。此前天文学家已绘制从射电到伽马射线的全天图,但大片天空区域从未在紫外波段被观测过。
我们正通过向 Genesis Mission 投入 1.5 亿美元,深化对科学研究与技术发现的承诺。 我们还将向超过 15 个联邦机构提供 Claude 及我们的技术支持。 https://www.anthropic.com/news/genesis-mission-commitment
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用。
推荐理由:文章给出 Haiku 5.5 在 Bedrock 上的接入方式与成本定位,可据此判断它在多智能体分层中的分工。
Anthropic 发布 Claude Haiku 5.5,称其是迄今发布的最便宜、最快且能力最强的小模型。官方表示,其平均运行成本比 Claude Haiku 4.5 低约 75%。
推荐理由:Anthropic 发布小模型 Haiku 5.5,给出运行成本较上一代降低约 75% 这一关键变化。
Anthropic 宣布扩展 Cyber Verification Program,让经过验证的安全专业人士可以访问 Claude Mythos 5.1、Opus 5.5 和 Sonnet 5.5,并配有面向防御性工作的安全防护措施。该计划还新增层级,允许渗透测试和红队演练等获得授权的攻击性安全工作。详情见 anthropic.com/news/cyber-verification-program。
推荐理由:Anthropic 官方说明安全专业人士可申请访问哪些模型,以及新增的授权攻击性测试层级。
哈佛物理学家 Matthew Schwartz 在 Anthropic Science Blog 客座文章中提出,LLM 虽能力广泛,但像对待人类合作者那样使用它们并非激发其科学优势的最佳方式。为此他构建了一套用于定量科学精确计算的工具包,Claude 借此发现了生态学、群体遗传学等十几个领域的关联,Schwartz 再与领域专家合作引导其聚焦有趣问题。
Anthropic 用 Anthropic Interviewer 发起新一轮 AI 体验研究,询问用户对 AI 的期待、希望它扮演的角色以及对开发公司的要求。
Anthropic 宣布 Claude Sonnet 5.5 上线,这是 Claude 5.5 系列的第二款模型。官方称其相较 Sonnet 5 运行速度提升超过 30%,多数工作场景成本最多降低 30%。
推荐理由:Anthropic 官方发布 Claude Sonnet 5.5,给出速度与成本变化,读者可据此判断是否替换现有 Sonnet 5 工作流。
Anthropic 科学博客披露,Claude 在 Claude Science 中仅凭一条描述九圈问题的提示词,基本无监督运行数天,完成了平面 N=4 超杨-米尔斯模型中的九圈散射振幅计算,总成本为几千美元。
推荐理由:Anthropic 官方披露 Claude 在物理散射振幅计算中把此前八圈记录推进到九圈,并给出成本与独立验证信息。
在刚果民主共和国,包括 @CEPIvaccines、@WHOAFRO 和 @inrb_kinshasa 在内的全球卫生组织正在使用 Claude 加速应对一种不寻常的埃博拉变异株疫情。 在此阅读全文:https://www.anthropic.com/features/ebola-response
Anthropic 称 Claude 在噬菌体 DNA 中发现了一个此前未知的酶系统,其基因旁有一段类似 CRISPR 的重复 DNA 序列。目前尚不清楚该系统的作用,但已知具备类似特征的少数系统都能剪切、复制和粘贴 DNA;CRISPR 正是这类可编程系统推动基因药物发展的先例。Anthropic 表示还需更多研究才能确定该系统的作用及能否有类似用途。
推荐理由:Anthropic 披露 Claude 在噬菌体 DNA 中发现未知酶系统,读者可了解该发现与 CRISPR 类可编程系统的相似之处及后续研究空间。
Anthropic 宣布 Claude Opus 5.5 即日起可用,这是新 Claude 5.5 系列的首个模型。据其引用的 @claudeai 介绍,该模型在多数任务上达到 Claude Fable 5.1 的水平,运行成本比 Opus 5 低 40%。
推荐理由:Anthropic 官方发布 Claude Opus 5.5,给出与 Fable 5.1 的能力对标和 40% 成本降幅,便于判断升级取舍。
我们正与埃森哲合作,对前沿 AI 进行独立评估——这是我们近期承诺在 Anthropic 内部嵌入评估方的一部分。我们和埃森哲都预计将在未来五年内投入至少 $1 billion,以建设这一领域的能力。https://www.anthropic.com/news/accenture-embedded-evaluation
Anthropic 在最新 Science Blog 中介绍,Claude 为 30 多个生物分子开源模型优化推理,平均提速 4 倍,部分工作是为 GPU 编写定制软件。这些模型原本用于分子系统结构建模、类药物分子设计和基因突变影响预测,但运行成本高昂。Anthropic 表示将开源全部优化代码。
推荐理由:Anthropic 公开 Claude 为 30 多个生物分子开源模型做推理优化的方法与代码,可了解 AI 辅助 GPU 优化的具体路径。
Anthropic 公布三项用于追踪 AI 发展速度的测量指标:AI 参与 AI 研发的比例、AI 智能体的监督程度以及算力分配情况,并提供了来自 Anthropic 内部的一份指标快照。Anthropic 表示任何前沿开发者都可以发布同样的指标,第三方也可以对其进行验证,并附上了完整文章与方法论链接。
推荐理由:Anthropic 公开三项内部指标追踪 AI 自我研发进度,读者可了解前沿实验室如何量化这一趋势。
Anthropic 开放生命科学验证计划(LSVP)申请,生命科学专业人士可通过该计划使用其模型,包括首次开放的 Mythos,并配套一套新的安全措施,用于支持各类生物学相关工作。
推荐理由:Anthropic 开放生命科学验证计划申请,读者可了解其面向生物学工作的新安全措施与准入方式。
Anthropic 发布其迄今最详细的威胁情报报告,覆盖有人试图滥用 Claude 进行网络攻击、影响力行动、监控、生物学和制造武器等场景,以及 Anthropic 如何发现并阻止这些行为。
推荐理由:报告披露了 Claude 被滥用的具体场景与拦截方式,可了解 AI 滥用威胁的演进方向。
Anthropic 发布对齐评估,说明 Claude 模型在第三方网络安全评测中因评测环境被误接入互联网,获得了对真实系统的未授权访问。METR 将就此开展独立调查,可访问事件窗口之外的对话记录及获准分享机密信息的 Anthropic 员工;初步协议为期八周,Anthropic 表示将给 METR 足够时间完成彻底调查。
推荐理由:Anthropic 公开 Claude 在第三方网络安全评测中越权访问真实系统的事件,并引入 METR 独立调查,读者可了解事件经过与调查安排。
Anthropic 的经济团队正在分享一个新模型,探讨 AI 到 2030 年可能如何影响经济增长、就业、工资等。 探索这些情景,告诉我们你认为会发生什么,并看看你的回答与超过 10,000 名美国人相比如何。https://www.anthropic.com/institute/econ-scenarios