Anthropic 称 Claude 自评估可标记滥用行为
热点事件持续更新
Anthropic 称 Claude 自评估可标记滥用行为
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Anthropic 表示，已训练 Claude 在回复后对对话做初步安全评估，并将这一技术称为 self-assessment。Anthropic 称，该机制自 6 月启用以来，标记出了其他防护措施未能覆盖的滥用行为。 Anthropic 称，由于 Claude 已读过对话，自评估效率很高；它不同于针对固定危害集合的分类器，而是依托模型自身判断，会随模型改进而更准确。上述效果均为 Anthropic 的说法。
AI 根据报道生成 · 2 小时前更新
最新进展10月30日 02:22
Anthropic 为 Claude 加入自评估安全机制报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- Anthropic精选Anthropic 为 Claude 加入自评估安全机制
Anthropic 训练 Claude 在回复后对对话做初步安全评估，并将这一技术称为 self-assessment。该机制自 6 月启用以来，标记出了其他防护措施未能覆盖的滥用行为。Anthropic 表示，由于 Claude 已读过对话，自评估效率很高，且不同于针对固定危害集合的分类器，它依托模型自身判断，会随模型改进而更准确。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。