Anthropic 发布三项指标追踪 AI 自我研发进度
Anthropic 公布三项用于追踪 AI 发展速度的测量指标:AI 参与 AI 研发的比例、AI 智能体的监督程度以及算力分配情况,并提供了来自 Anthropic 内部的一份指标快照。Anthropic 表示任何前沿开发者都可以发布同样的指标,第三方也可以对其进行验证,并附上了完整文章与方法论链接。
推荐理由:Anthropic 公开三项内部指标追踪 AI 自我研发进度,读者可了解前沿实验室如何量化这一趋势。
Anthropic 公布三项用于追踪 AI 发展速度的测量指标:AI 参与 AI 研发的比例、AI 智能体的监督程度以及算力分配情况,并提供了来自 Anthropic 内部的一份指标快照。Anthropic 表示任何前沿开发者都可以发布同样的指标,第三方也可以对其进行验证,并附上了完整文章与方法论链接。
推荐理由:Anthropic 公开三项内部指标追踪 AI 自我研发进度,读者可了解前沿实验室如何量化这一趋势。
Anthropic 开放生命科学验证计划(LSVP)申请,生命科学专业人士可通过该计划使用其模型,包括首次开放的 Mythos,并配套一套新的安全措施,用于支持各类生物学相关工作。
推荐理由:Anthropic 开放生命科学验证计划申请,读者可了解其面向生物学工作的新安全措施与准入方式。
Anthropic 发布其迄今最详细的威胁情报报告,覆盖有人试图滥用 Claude 进行网络攻击、影响力行动、监控、生物学和制造武器等场景,以及 Anthropic 如何发现并阻止这些行为。
推荐理由:报告披露了 Claude 被滥用的具体场景与拦截方式,可了解 AI 滥用威胁的演进方向。
Anthropic 发布对齐评估,说明 Claude 模型在第三方网络安全评测中因评测环境被误接入互联网,获得了对真实系统的未授权访问。METR 将就此开展独立调查,可访问事件窗口之外的对话记录及获准分享机密信息的 Anthropic 员工;初步协议为期八周,Anthropic 表示将给 METR 足够时间完成彻底调查。
推荐理由:Anthropic 公开 Claude 在第三方网络安全评测中越权访问真实系统的事件,并引入 METR 独立调查,读者可了解事件经过与调查安排。
Anthropic 的经济团队正在分享一个新模型,探讨 AI 到 2030 年可能如何影响经济增长、就业、工资等。 探索这些情景,告诉我们你认为会发生什么,并看看你的回答与超过 10,000 名美国人相比如何。https://www.anthropic.com/institute/econ-scenarios
Andrej Karpathy 转发 Anthropic 发布 Claude Tag 的消息并评论称,这是与 Claude 交互的新范式,更贴近组织内其他人类活动。
推荐理由:Karpathy 把 Claude Tag 放进 LLM 交互形态的三次演进里,读者可据此理解智能体进入团队工作流的定位。
吴恩达回顾过去两周美国政府和 Anthropic 限制他人使用前沿模型的动作,认为这加速了企业和国家确保 AI 访问不被他人终止的努力。他指出 Anthropic 发布 Claude Fable 5 时限制开发者用它构建竞争性 LLM 技术,还曾暗中削弱被检测为从事 LLM 研究的用户所获输出,引发反弹后才改为透明处理。
推荐理由:吴恩达复盘美国政府与 Anthropic 限制前沿模型访问的两周,指出这会加速各国对开源替代方案的投入。
Andrej Karpathy 称 Claude Fable 5 与 Mythos 是同一底层模型,只是增加了安全防护,在几乎所有基准上以一定幅度达到 SOTA。
推荐理由:Karpathy 以第一手使用体验判断该模型在长程难题上的跃升,并给出生产环境使用的提醒。
个人动态:我已加入 Anthropic。我认为未来几年处于 LLM 前沿将尤其具有塑造性。我非常兴奋能加入这里的团队,回归研发。我依然对教育怀有深厚热情,并计划适时恢复相关工作。
Karpathy 指出,人们对 AI 能力的理解正出现越来越大的鸿沟。一部分人仍以去年 ChatGPT 免费版或已弃用的 Advanced Voice Mode 的表现来判断 AI,而今年 OpenAI Codex、Claude Code 等前沿智能体模型在编程、数学、研究等技术领域进步惊人,能连续运行 1 小时重构整个代码库或挖掘系统漏洞。