纳德拉发帖谈AI安全需紧急制动

微软 CEO Satya Nadella 在 X 发长文谈先进 AI 模型的风险，主张不能再把 AI 当作只能接受或拒绝其建议的黑箱，应建立可隔离、可观测并留下防篡改人类可读证据的透明体系。

微软 CEO Satya Nadella 在 X 发文称，应重新审视 AI 的信任架构，不能把超级智能当作嵌套黑盒来接受或拒绝其建议与行动。他主张将模型与编排其工作的 harness 分离、外置控制与保障措施，并为每个重要模型动作留下防篡改的人类可读证据，同时让授权人员能随时暂停或关闭执行中的模型。他称必须假设模型已被攻破并从一开始就加以约束，“就像紧急刹车”。