微软总裁布拉德 · 史密斯:AI 受到的监管甚至不如牛奶和洗衣机
微软总裁布拉德 · 史密斯称,目前洗衣机受到的安全监管都比 AI 严格,每盒牛奶都要受安全规则约束并接受检查。他呼吁业界制定更多安全规格,若失控的智能体入侵其他企业并造成损害,持有该 AI 智能体的公司应承担责任,并建议企业设置“终止开关”以便在 AI 失控时暂停运行。
微软总裁布拉德 · 史密斯称,目前洗衣机受到的安全监管都比 AI 严格,每盒牛奶都要受安全规则约束并接受检查。他呼吁业界制定更多安全规格,若失控的智能体入侵其他企业并造成损害,持有该 AI 智能体的公司应承担责任,并建议企业设置“终止开关”以便在 AI 失控时暂停运行。
特朗普签署行政令,要求尽可能不使用"AI"一词,改称"超级智能"(Super Intelligence),并将美国 AI 标准与创新中心(CAISI)更名为 CAISSI。马斯克承诺将 SpaceXAI 改名为 SpaceXSI,黄仁勋、Sam Altman 等人也采用了这一说法,但 Altman 表示 OpenAI 不会改名。特朗普还称继续使用"人工智能"一词的人是"敌人"。
Adam Thierer 写过关于"无需许可的创新"的里程碑式著作。当我们不必事先向政府申请发明的许可时,我们才能获得最好的想法。保护开源 AI 现在是确保这一点的关键部分。
吴恩达回顾过去两周美国政府和 Anthropic 限制他人使用前沿模型的动作,认为这加速了企业和国家确保 AI 访问不被他人终止的努力。他指出 Anthropic 发布 Claude Fable 5 时限制开发者用它构建竞争性 LLM 技术,还曾暗中削弱被检测为从事 LLM 研究的用户所获输出,引发反弹后才改为透明处理。
推荐理由:吴恩达复盘美国政府与 Anthropic 限制前沿模型访问的两周,指出这会加速各国对开源替代方案的投入。
厌倦了赢