微软总裁布拉德 · 史密斯:AI 受到的监管甚至不如牛奶和洗衣机
微软总裁布拉德 · 史密斯称,目前洗衣机受到的安全监管都比 AI 严格,每盒牛奶都要受安全规则约束并接受检查。他呼吁业界制定更多安全规格,若失控的智能体入侵其他企业并造成损害,持有该 AI 智能体的公司应承担责任,并建议企业设置“终止开关”以便在 AI 失控时暂停运行。
微软总裁布拉德 · 史密斯称,目前洗衣机受到的安全监管都比 AI 严格,每盒牛奶都要受安全规则约束并接受检查。他呼吁业界制定更多安全规格,若失控的智能体入侵其他企业并造成损害,持有该 AI 智能体的公司应承担责任,并建议企业设置“终止开关”以便在 AI 失控时暂停运行。
文章梳理了 AI 编码浪潮下开发工具格局的变化:Anthropic 于 2025 年 12 月收购 Bun,Deno 团队则在 2026 年 10 月 9 日整体加入 Cloudflare,Deno Runtime 一年维护期后停止由原团队开发、Deno Deploy 六个月后关闭,JSR 继续运营并迁移至 Cloudflare 基础设施。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在 Latent Space 的一场对谈中指出,AlphaFold 的突破只是开始,蛋白质折叠问题远未解决。
MIT Technology Review 刊文指出,AI 的拒绝机制正成为 AI 安全的承重墙,但这一机制并不可靠。Anthropic 2021 年提出大语言模型应"有用、诚实、无害",如今模型经红队测试与 AI 互训学会拒绝大量提示词,但拒绝机制基于概率,仍会被突破,已有用户试图借此研究生物病原体和自主无人机蜂群。文章还警告,拒绝的边界由 AI 公司秘密划定,政府介入后可能被用于压制合法言论。
Google DeepMind 研究副总裁 Zoubin Ghahramani 与 Hannah Fry 对谈,探讨为何让 AI 系统学会"自我怀疑"和概率思维,是实现更安全、更可靠现实决策的关键。讨论覆盖不确定性的作用、正确性与置信度的区别、贝叶斯思维在 AI 中的应用,以及不确定性研究与 AGI 的未来方向。