Altman 转发 Nick Cammarata 谈可解释性
先了解这件事
Sam Altman 在 X 上转发 Nick Cammarata 关于可解释性的观点，称很高兴看到这一内容。Cammarata 称，可解释性可能是当前世界上最重要的科学问题，因为不了解所构建的系统就无法解决对齐问题。 Cammarata 表示，他曾在 OpenAI 参与机械可解释性早期工作并一度悲观，认为神经网络会折叠成任意纠缠的结；后来他启动 OpenAI 首个大规模自动化可解释性项目，用当时的原始工具发现约 2% 的神经元可读。他称，借助现代智能体工具和更细致的观察，情况完全不同：在参数量高达数万亿的模型中，绝大多数神经元可读，回路也很优美，许多著名的纠缠神经元案例其实是被误解的，他预期的障碍大多并不存在。 他现在认为，随着自动化科学家不断进步，雄心勃勃的可解释性工作会在最需要它之前被解决，甚至可能很快；这或许是可解释性的苦涩教训——简单的方法在荒谬的规模下奏效。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Sam AltmanSam Altman 转发 Nick Cammarata 谈可解释性与对齐
Sam Altman 转发 Nick Cammarata 关于可解释性的观点，称很高兴看到这一内容。Nick Cammarata 表示，可解释性可能是当前世界上最重要的科学问题，因为不了解所构建的系统就无法解决对齐问题；他曾在 OpenAI 参与机械可解释性早期工作并一度悲观，认为神经网络会折叠成任意纠缠的结，后来他启动了 OpenAI 首个大规模自动化可解释性项目，用当时的原始工具发现约 2% 的神经元可读。他表示，借助现代智能体工具和更细致的观察，情况完全不同：在参数量高达数万亿的模型中，绝大多数神经元可读，其回路也很优美，许多著名的纠缠神经元案例其实是被误解的，他预期的障碍大多并不存在。他现在认为，随着自动化科学家不断进步，雄心勃勃的可解释性工作会在最需要它之前被解决，甚至可能很快，这或许是可解释性的苦涩教训：简单的方法在荒谬的规模下奏效。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1010月17日 01:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。