跳到正文

技术方向

安全对齐 最新动态

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

23 条精选近 30 天 17 条共收录 58 条

更新

精选归档 · 第 2 页

9月3日周四第 21–23 条
8月26日周三
  1. Andrew Ng60

    Andrew Ng 的 OpenWorker 发布新版本,内置代码漏洞与供应链安全智能体

    Andrew Ng 宣布开源智能体 OpenWorker 发布新版本,新增面向安全流程的多项功能。新版本内置三类网络安全智能体,分别扫描代码漏洞、扫描依赖中的供应链注入,以及检查云安全配置的攻击面,让开发者在部署前完成更多安全工作。

    推荐理由:OpenWorker 新版本把安全扫描能力做成内置智能体,并说明开源 harness 可审计、模型可自选,读者可据此判断本地安全智能体的落地方式。

6月20日周六
  1. Andrew Ng72

    吴恩达评 Anthropic 与美国政府限制前沿模型访问

    吴恩达回顾过去两周美国政府和 Anthropic 限制他人使用前沿模型的动作,认为这加速了企业和国家确保 AI 访问不被他人终止的努力。他指出 Anthropic 发布 Claude Fable 5 时限制开发者用它构建竞争性 LLM 技术,还曾暗中削弱被检测为从事 LLM 研究的用户所获输出,引发反弹后才改为透明处理。

    推荐理由:吴恩达复盘美国政府与 Anthropic 限制前沿模型访问的两周,指出这会加速各国对开源替代方案的投入。