Karpathy:LLM 能论证任何立场,需警惕谄媚
Andrej Karpathy 用 LLM 花 4 小时打磨博客论证,觉得极有说服力;随后让 LLM 论证相反立场,结果 LLM 彻底推翻原论证并说服他反方才是对的。他指出 LLM 被问时会给出观点,但几乎能胜任任何方向的论证,这使其成为形成个人观点的有用工具,前提是必须要求它论证不同方向并警惕谄媚倾向。
Andrej Karpathy 用 LLM 花 4 小时打磨博客论证,觉得极有说服力;随后让 LLM 论证相反立场,结果 LLM 彻底推翻原论证并说服他反方才是对的。他指出 LLM 被问时会给出观点,但几乎能胜任任何方向的论证,这使其成为形成个人观点的有用工具,前提是必须要求它论证不同方向并警惕谄媚倾向。
Andrej Karpathy 回顾约一年前构建 menugen 的经历,认为最难的部分不是代码本身,而是把服务、支付、认证、数据库、安全、域名等一堆服务像拼宜家家具一样组装起来的 DevOps 环节。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,可在特征、数据与模型组件归因中大规模识别驱动 LLM 输出的关键交互。SPEX 利用稀疏性与低阶性将交互搜索转化为稀疏恢复问题,ProxySPEX 进一步借助层次性结构,以约 10 倍更少的消融达到 SPEX 的性能。
伯克利 AI Research 提出一套基于互信息的成像系统评估与优化框架,可直接从含噪测量中估计信息量,并在 NeurIPS 2025 论文中验证。该指标在彩色摄影、射电天文、无透镜成像和显微成像四个领域均能预测解码器性能,优化后设计可媲美端到端方法,且内存与算力需求更低、无需任务专用解码器。