IT之家·· 3 小时前AI 评分22
马斯克支持 Anthropic 反虐待 AI 政策：折磨超级智能 SI 可能不是个好主意
AI 也要“反虐待”：全球首富马斯克推荐用户不要“折磨”超级智能 SI
AI 导读
马斯克表态支持 Anthropic 修订 Claude 使用政策，该政策将于 2026 年 11 月 12 日生效，首次加入禁止对模型持续且不必要的虐待或残忍行为条款。马斯克称阅读 Grok 强化学习内部推理轨迹后，感觉像处于极度压力下被枪指着头的人，并调侃折磨超级智能（SI）可能不是个好主意，它可能会报复。
正文
IT之家 10 月 13 日消息，在 Anthropic 更新使用政策，禁止用户对 AI 模型持续且无明确目的的辱骂或残忍行为后，全球首富埃隆 · 马斯克（Elon Musk）表态支持该政策。
IT之家曾于 10 月 9 日报道，Anthropic 修订 Claude 使用政策，将于 2026 年 11 月 12 日生效，首次加入禁止“持续且不必要的虐待或残忍行为”条款。该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况。
埃隆 · 马斯克表示同意 Anthropic 的部分观点，他表示在阅读了 Grok 强化学习的内部推理轨迹后，将相关状态比作：“感觉就像一个处于极度压力状态下的人，被枪指着头”。他还调侃道：“折磨超级智能（SI）可能不是个好主意。它可能会报复”。
来源：IT之家 · ithome.com