微软总裁布拉德 · 史密斯:AI 受到的监管甚至不如牛奶和洗衣机
微软总裁布拉德 · 史密斯称,目前洗衣机受到的安全监管都比 AI 严格,每盒牛奶都要受安全规则约束并接受检查。他呼吁业界制定更多安全规格,若失控的智能体入侵其他企业并造成损害,持有该 AI 智能体的公司应承担责任,并建议企业设置“终止开关”以便在 AI 失控时暂停运行。
微软总裁布拉德 · 史密斯称,目前洗衣机受到的安全监管都比 AI 严格,每盒牛奶都要受安全规则约束并接受检查。他呼吁业界制定更多安全规格,若失控的智能体入侵其他企业并造成损害,持有该 AI 智能体的公司应承担责任,并建议企业设置“终止开关”以便在 AI 失控时暂停运行。
文章梳理了 AI 编码浪潮下开发工具格局的变化:Anthropic 于 2025 年 12 月收购 Bun,Deno 团队则在 2026 年 10 月 9 日整体加入 Cloudflare,Deno Runtime 一年维护期后停止由原团队开发、Deno Deploy 六个月后关闭,JSR 继续运营并迁移至 Cloudflare 基础设施。
微软 CEO Satya Nadella 在最新博客中改用特朗普偏好的"Super Intelligence"一词,并主张把 AI 模型当作内部安全威胁来对待,要求模型多样性、完整日志、独立审计和随时关停能力。
MIT Technology Review 刊文指出,AI 的拒绝机制正成为 AI 安全的承重墙,但这一机制并不可靠。Anthropic 2021 年提出大语言模型应"有用、诚实、无害",如今模型经红队测试与 AI 互训学会拒绝大量提示词,但拒绝机制基于概率,仍会被突破,已有用户试图借此研究生物病原体和自主无人机蜂群。文章还警告,拒绝的边界由 AI 公司秘密划定,政府介入后可能被用于压制合法言论。
哈佛物理学家 Matthew Schwartz 在 Anthropic Science Blog 客座文章中提出,LLM 虽能力广泛,但像对待人类合作者那样使用它们并非激发其科学优势的最佳方式。为此他构建了一套用于定量科学精确计算的工具包,Claude 借此发现了生态学、群体遗传学等十几个领域的关联,Schwartz 再与领域专家合作引导其聚焦有趣问题。
Andrej Karpathy 转发 Anthropic 发布 Claude Tag 的消息并评论称,这是与 Claude 交互的新范式,更贴近组织内其他人类活动。
推荐理由:Karpathy 把 Claude Tag 放进 LLM 交互形态的三次演进里,读者可据此理解智能体进入团队工作流的定位。
吴恩达回顾过去两周美国政府和 Anthropic 限制他人使用前沿模型的动作,认为这加速了企业和国家确保 AI 访问不被他人终止的努力。他指出 Anthropic 发布 Claude Fable 5 时限制开发者用它构建竞争性 LLM 技术,还曾暗中削弱被检测为从事 LLM 研究的用户所获输出,引发反弹后才改为透明处理。
推荐理由:吴恩达复盘美国政府与 Anthropic 限制前沿模型访问的两周,指出这会加速各国对开源替代方案的投入。
Andrej Karpathy 称 Claude Fable 5 与 Mythos 是同一底层模型,只是增加了安全防护,在几乎所有基准上以一定幅度达到 SOTA。
推荐理由:Karpathy 以第一手使用体验判断该模型在长程难题上的跃升,并给出生产环境使用的提醒。
Karpathy 指出,人们对 AI 能力的理解正出现越来越大的鸿沟。一部分人仍以去年 ChatGPT 免费版或已弃用的 Advanced Voice Mode 的表现来判断 AI,而今年 OpenAI Codex、Claude Code 等前沿智能体模型在编程、数学、研究等技术领域进步惊人,能连续运行 1 小时重构整个代码库或挖掘系统漏洞。