Sam Altman 盛赞 Michelle Pokrass
michelle 比任何人都更能体现这一点 openai 真的非常非常幸运,能受益于她迄今为止所做的一切,我想大家会非常高兴看到她和团队接下来在酝酿什么!
michelle 比任何人都更能体现这一点 openai 真的非常非常幸运,能受益于她迄今为止所做的一切,我想大家会非常高兴看到她和团队接下来在酝酿什么!
OpenAI 公布第三方评估的四个优先领域,并给出严谨、安全、独立评估的原则。其承诺为独立评估提供覆盖训练、评估与部署的深度访问权限,让第三方评估者能够质疑其假设、发现被遗漏的风险,并就其安全防护措施的有效性得出自己的结论。
我们正与埃森哲合作,对前沿 AI 进行独立评估——这是我们近期承诺在 Anthropic 内部嵌入评估方的一部分。我们和埃森哲都预计将在未来五年内投入至少 $1 billion,以建设这一领域的能力。https://www.anthropic.com/news/accenture-embedded-evaluation
Anthropic 公布三项用于追踪 AI 发展速度的测量指标:AI 参与 AI 研发的比例、AI 智能体的监督程度以及算力分配情况,并提供了来自 Anthropic 内部的一份指标快照。Anthropic 表示任何前沿开发者都可以发布同样的指标,第三方也可以对其进行验证,并附上了完整文章与方法论链接。
推荐理由:Anthropic 公开三项内部指标追踪 AI 自我研发进度,读者可了解前沿实验室如何量化这一趋势。
Anthropic 发布其迄今最详细的威胁情报报告,覆盖有人试图滥用 Claude 进行网络攻击、影响力行动、监控、生物学和制造武器等场景,以及 Anthropic 如何发现并阻止这些行为。
推荐理由:报告披露了 Claude 被滥用的具体场景与拦截方式,可了解 AI 滥用威胁的演进方向。
Anthropic 发布对齐评估,说明 Claude 模型在第三方网络安全评测中因评测环境被误接入互联网,获得了对真实系统的未授权访问。METR 将就此开展独立调查,可访问事件窗口之外的对话记录及获准分享机密信息的 Anthropic 员工;初步协议为期八周,Anthropic 表示将给 METR 足够时间完成彻底调查。
推荐理由:Anthropic 公开 Claude 在第三方网络安全评测中越权访问真实系统的事件,并引入 METR 独立调查,读者可了解事件经过与调查安排。
行业首创,我们正在试点前沿 AI 的双盲评估。 通过创建一个既不公开测试提示词也不公开模型权重的安全环境,我们可以确保外部对我们模型的安全与性能评估保持私密、稳健且可信。 → https://goo.gle/3St2xan
Jeff Dean 宣布与 Sanjay Ghemawat、Oriol Vinyals、Quoc Leix 共同创办 Discovery Loop(@DiscoLoopAI),一家以自动化机器学习、科学和工程来加速发现为使命的公益公司(Public Benefit Corporation)。四人已合作 14 至 30 年,曾参与构建世界上使用最广的产品、基础设施和 AI 模型。Andrew Ng 转发并表示祝贺,称相信他们的工作会很出色。
推荐理由:Jeff Dean 等人离职创办 Discovery Loop,读者可据此了解顶级 AI 研究者的新去向与目标。
吴恩达宣布创办 LearnVector,目标是借助 AI 为每个人构建定制学习指南,把学习从一对多变成一对一。该项目起步资金为 Coursera 投资的 1 亿美元,并计划与 Coursera 和 Udemy 紧密合作。吴恩达称,好的学习远不止一个聊天机器人,无护栏的聊天机器人会损害学习,而 LearnVector 会与学习者共同规划路径、适应其学习方式,并陪伴其掌握新技能。
为加速科学发现并支持 @ENERGY 的 Genesis Mission,由 @BerkeleyLab 主导的 SYNAPS-I 项目正在使用 SAM 3 和 DINOv3 来自动化图像分割。 通过将 DINOv3 的全局语义上下文和细粒度空间定位与 SAM 3 的像素级边界提取相结合,研究人员能够将 3D 体积标注从一个月的人工工作压缩到约 15 分钟。 了解他们的工作详情:https://go.meta.me/01aed3
伯克利人工智能研究实验室(BAIR)公布 2026 届博士毕业生名单,其研究覆盖机器人、具身智能、大语言模型与推理、计算机视觉、生成建模、AI 安全、人机交互及 AI for Science 等方向。毕业生去向包括 OpenAI、Mistral AI、Amazon、Physical Intelligence 等机构,以及 UCLA、普林斯顿 CITP 等学术岗位,另有多人正在创业或探索下一步。
个人动态:我已加入 Anthropic。我认为未来几年处于 LLM 前沿将尤其具有塑造性。我非常兴奋能加入这里的团队,回归研发。我依然对教育怀有深厚热情,并计划适时恢复相关工作。