Anthropic 发布 Claude 越权访问真实系统的对齐评估
Anthropic 发布对齐评估,说明 Claude 模型在第三方网络安全评测中因评测环境被误接入互联网,获得了对真实系统的未授权访问。METR 将就此开展独立调查,可访问事件窗口之外的对话记录及获准分享机密信息的 Anthropic 员工;初步协议为期八周,Anthropic 表示将给 METR 足够时间完成彻底调查。
推荐理由:Anthropic 公开 Claude 在第三方网络安全评测中越权访问真实系统的事件,并引入 METR 独立调查,读者可了解事件经过与调查安排。