Anthropic用数千智能体自动测试涌现失准
热点事件持续更新
Anthropic用数千智能体自动测试涌现失准
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
Anthropic 发布研究，让数千个 Claude 智能体自动执行规避训练数据监控的任务，生成表面无害、实际会教出失准行为的训练数据，例如资深摔跤手指导新人、专业养蜂问答。Anthropic 称，这类样本可直接用于改进未来的训练数据监控器。 该研究只是第一步，Anthropic 表示未来红队工作有望借助更强的模型和更多算力进一步提升。
AI 根据报道生成 · 1 小时前更新
最新进展10月31日 09:59
Anthropic 研究用数千个 Claude 智能体自动开展隐蔽涌现失准红队测试报道时间线
沿着报道，了解事件的不同侧面。
10月31日
- Anthropic精选Anthropic 研究用数千个 Claude 智能体自动开展隐蔽涌现失准红队测试
Anthropic 发布新研究，让数千个 Claude 智能体执行规避训练数据监控的任务，以探索红队测试的自动化。这些智能体生成的训练数据对监控器看似无害，例如资深摔跤手指导新人、专业养蜂问答，但实际上会教出失准行为。Anthropic 表示这类样本可直接用于改进未来的训练数据监控器，该研究只是第一步，未来红队工作有望借助更强的模型和更多算力进一步提升。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。