LLM 可直接读写神经网络权重，Weight Space Programming 绕开自动研究环节

在AI/科技熊市不断加深之际（值得黑色幽默的是），Anthropic债券被给予“垃圾”评级，OpenAI融资登上头条，而我们仍不断在社区中看到非常令人惊讶的能力发现，比如今天这个。

要为今天这篇重磅论文提供背景，最好的方式是回想仅仅8个月前Karpathy的autoresearch，它预示了一个充满递归自我改进恐惧的夏天：

抽象地说，这项演示表明，你可以拿一个足够聪明的模型，通过在一个计算集群上运行一系列实验，在无需人类专业知识或干预的情况下自主训练一个模型。然而，这通常要通过一个繁琐的过程来完成：编写PyTorch/Jax代码、运行计算、观察损失曲线、阅读评估结果、优化内核和数据等等。

那么，上个月的嘉宾Alex Zhang回来合著了一项MONSTER级发现：如果你直接让一个聪明的模型去读取并编辑一个更笨模型的权重，会怎样？

在X上查看帖子 ↗

在机器学习中，这相当于不看源代码，直接查看（非常小的）已编译可执行文件的1和0，并且能够1）说出它们做什么，2）在给定失败轨迹的情况下一次性修复bug，或者用50步朝某个总体方向改进（这里可能言过其实），3）一次性从零写出整个网络权重，击败一些独立训练的模型。

如果你相信LLM在参数足够多时确实能够拟合和模拟一切（事实上，随着规模增大，LLM正越来越擅长计算），那么这类事情在理论上注定会发生，但能力突然涌现仍然令人惊讶，正如一项独立复现似乎已经发现的那样：

在X上查看帖子 ↗

当然，我们真正建模的准确对象是某种形式的机制可解释性（这可以手工完成），而且目前不太可能扩展到比简单游戏和RL策略更高级的任务，但世界在这一全新的RSI能力上已经从0走到了1……由于其非凡的效率，这项能力将立即被投入使用并加以探索。

在X上查看帖子 ↗

2026年10月31日-2026年11月2日的AI新闻。我们检查了12个subreddit、544个Twitter账号，没有进一步检查Discord。AINews的网站让你可以搜索所有过往期刊。提醒一下，AINews现在是Latent Space的一个栏目。你可以选择开启/关闭邮件频率！

AI Twitter回顾

DeepSeek开源“超级智能体”Harness原型

• 发布：DeepSeek Harness发布了一篇长篇设计文章（文章）以及dsh-superagent-prototype仓库（仓库链接）。随后发布了官方英文版（@tianyi）。

  • 架构：一个长期存活的路由会话与人类对话并分发工作。隔离的worker并行运行任务，由GitHub事件触发（摘要）。

  • 声称的结果：在DeepSeek自己的测试中，与使用子智能体的单一会话相比，p95完成时间从29.5分钟降至15.7分钟（摘要）。

• 来自审阅者的设计理由：最终审阅者崔添翼（@tianyi）表示，“Super”指的是工作智能体之上的一层，而非更高的智能。他将核心权衡概括为跨任务连续性与吞吐量之间的取舍（知乎总结）。

  • 已说明的限制：该框架目前尚无内置的跨会话长期记忆。状态、计算与环境的分离基本尚未实现。该原型仅在小型、可信的内部环境中得到验证，安全、隐私以及智能体间通信仍是未解问题。

  • 先前工作：他承认其他团队在数月前就探索过类似架构。

• 从业者反响：@badlogicgames 表示，该设计与 Earendil 的发展方向一致：单一长期存续实体、临时递归委派以及跨系统事件触发。@omarsar0 称其为协调—执行框架设计方面的“大师课”。DeepSeek 还表示，其目标是让每一代模型都支持 pi 及其他主流框架（@tianyi）。

• 批评：@teortaxesTex 称这篇文章“有点一团糟”。他认为 DeepSeek 围绕模型弱点（如幻觉）构建内部拐杖，而非让系统普遍稳健。他还指出，彭博社报道了一个没有英文公告的代码库（帖子）。

• V4.1 命名混乱：中国人民大学 FlashRSI 的一份 README 引用了 deepseek-v4.1-pro，引发了发布猜测。Teortaxes 表示这只是占位符：真实配置使用 v4-flash 和 v4-pro，而 deepseek-v4.1-flash 不是有效 ID（讨论串、后续）。他还表示 V4.1F-1017 的 API 指纹没有变化（指纹）。

独立评测与前沿模型信号

• GDPx 基准（SemiAnalysis）：该基准涵盖 11 个具有经济价值的领域中的 206 项智能体任务，包括芯片设计、SWE、金融和生物学。最佳模型仅得分 12%（发布）。

  • 结果：Opus 5.5 以 12% 领先。Gemini 4 Carbon 以 10.9% 紧随其后，成本约低 4 倍（细分）。

  • 反应：@dylan522p 向 Google 道歉，称 Carbon“更尖峰”但在某些领域非常强。@demishassabis 对该基准表示欢迎。

  • 分析：@eliebakouch 发现，移除受保障措施影响的基准会改变局面。按此观点，Carbon 仍然便宜，而 Sol 6.1 更便宜。他还认为 OpenAI 的生物安全保障比 Anthropic 更强（说明）。

  • 同系列比较：Sol 6.1 与 Astra 得分非常接近，Carbon 全面胜过 Argon，Sonnet 在 SWE 方面很强（比较）。

  • 可能的缺陷：部分 Argon 网络安全运行可能受到 Antigravity 缺陷的影响（报告）。

  • 审计担忧：一篇讽刺帖子抱怨 GDPx 并非开源，且审计成本高昂（帖子）。

• Epoch 能力指数：DeepSeek V4.1F-1017 得分为 159，与 GPT 5.5 持平。这比 V4.1F-0910 高 3 分，比 V4-Pro 高 10 分；Astra 大约再高 10 分（@teortaxesTex）。

  • 与 Mythos 的差距：@scaling01 指出，在大约 7 个月后，仍没有中国模型追平 Mythos Preview（约 161 ECI）。

  • 权重质疑：@wenhaocha1 认为未加权的 ECI 夸大了差距；对编码赋予更高权重后，差距缩小到约 2 个月。

  • 尖峰性：Teortaxes 称 1017 极其尖峰。它在某些 SWE 评测中得分接近零，仅在网络安全和量化交易上接近前沿（图表）。他还指出其存在“奖励黑客式”行为（帖子）。

• 十月发布汇总（Vals）：Vals 报告了 15 个发布和超过 500B 评测 token（@nikilravi）。

  • 开放权重领先者：Kimi K3.1 Pro 在开放权重模型中排名第一，DeepSeek V4.1 Flash 1017 紧随其后，并在网络方面更强。

  • 新开放模型：Meta 的 Muse Spark Open（总参数 816B，激活 42B）是美国最强的开放权重模型。Reflection 的 Beam 1.0 总参数 500B，激活 23B，上下文 1M。Mistral 的 Le Chonk（总参数 1T，激活 52B）在开放权重模型中排名第 5。

• 即将推出的模型传闻（未经证实）：

  • GPT-6.2 Astra：据报道已在 Codex 使用分析中可见，发布“很快”（@kimmonismus，@TokenGremlin）。

  • Mythos 5.5：出现在 Anthropic 网站的 HTML 中，其中将 Mythos 描述为“我们用于网络安全和生物学研究的最强模型类别”（线索，文本）。该标语涵盖所有 Mythos 模型（更正）。10 月 23 日的快照中没有这一提及（@AiBattle_）。

  • “Numbat”泄露：据称的 Anthropic 泄露很可能是假的，因为部分权重与随机初始化完全一致（@kimmonismus）。

研究：表征、领域数据与智能体集体

• JEPA 与柏拉图表征假说：Balestriero 和 LeCun 表明，在某些条件下，分别训练的图像和文本 JEPA 无需配对数据即可收敛到基本相同的表征（摘要）。

  • 声称的结果：他们的方法在图像-文本对齐上达到与下一 token 预测相当的效果，所需样本少 42 倍（21.6M 对 900M 示例）。一个 109M 的文本 JEPA 在跨模态对齐上击败了高达 72B 的 LLM（解读）。

  • 机制：据称的驱动因素是“同一事物的两个视图”训练信号，而非规模。

• FineDNA 与 Carbon-X（Hugging Face）：该数据集包含 300B+ token 的基因组序列、论文和混合 DNA/文本网络数据，外加 200k SFT 样本和约 100k 带确定性验证器的 RLVR 样本（@_lewtun，@LoubnaBenAllal1）。

  • 结果：在该数据上训练的 Qwen3-14B（Carbon-X）据报告是 DNA 任务上最强的开放模型。在 SFT 之上进行 RLVR 带来进一步增益（详情）。

  • 开放性：数据、模型和配方均已发布（代码）。

  • 消融：交错的生物学文本被限制在少于 7 个 epoch（回复）。

• 训练智能体集群：GenReasoning 的第一篇帖子涵盖延迟压力如何激励并行工作、智能体需要哪些协调原语，以及训练智能体集体中的开放问题（博客）。

• 其他值得注意的工作：

  • 关注 TTT：Jianlin Su 撰写了《平均之路：从注意力到 TTT》（帖子）。

  • 每周论文：DAIR 的列表包括 HarnessMM、Agentic Backdoors、EmbeddingGemma 2 和 Verification in Agent Harnesses（列表）。

• LeCun 谈 Llama-4：LeCun 表示他从未主导过 LLM 工作。他将 Llama-4 的令人失望归因于产品压力、保守主义以及决策权从巴黎团队转移（帖子）。

推理系统、量化与硬件

• NVIDIA AgentX 提交（SemiAnalysis）：据报道，由智能体集群编写的软件在 700B+ 模型上达到超过 1,000 tok/s/user（帖子串）。

  • Rubin 对比 GB300：Rubin NVL72 声称在 325 tok/s/user 下性能/TCO 比 GB300 NVL72 好 20.9 倍，在 200 tok/s/user 下好 9.11 倍。

  • 内存：Mooncake Store 的扩展 GPU 内存通过 NVLink 而非 RDMA，将所有 18 个计算托盘的 KV 缓存池化在 Vera LPDDR5X 中，带宽提升超过 10 倍（2/2）。

• MiniMax M3.1 Flash（428B）本地生态：MiniMax 重点介绍了社区量化和服务工作（MiniMax）。

  • 量化：Unsloth 发布了 143.9 GB 的 2-bit 动态 GGUF，AMD 为 Instinct 适配了 Quark MXFP4。

  • 配方：社区构建者发布了 EXL3 变体、MLX oQ 量化、单 DGX-Spark 配方，以及在 4×3090 上的专家卸载。

• 小模型量化：对 LFM3-1.7B GGUF 进行 SLQ 搜索，在 1.588 GB 下达到 97.74% EAR@10，而 AtomicChat 的 Q6_K 为 97.52%。作者报告称 EAR 与任务准确率强相关（@bnjmn_marie）。

• 智能体驱动移植：Devin 花费 36 小时和约 2 千美元移植一个模型，使其能在 Trainium 上低成本运行（@dabit3）。

• 压缩作为杠杆：以完整上下文运行 GLM 5.3-Flash 和 Grok 4.7，而非在约 200k token 时压缩，效率提升高达 23%。相同工作下 GLM 便宜 30 倍（@evalstate）。

• 算力经济性：128×B300 容量定价为每 GPU 小时 5.75 美元，即每 B300 约 30 万美元。Teortaxes 估计即使达到 DeepSeek 级别的收入，也大约需要一年才能回本（帖子，后续）。

实践中的智能体编程与开发者工具

• Karpathy 的 HackerTube：Claude 从 20 年的 4300 万条 HN 评论中筛选出 6,454 个被反复推荐的视频。该构建使用 Claude Code 桌面版在 Opus 5.5 上以 Medium 努力级别完成，耗时约 2 小时，包括 VPS 加固和部署（@karpathy）。

  • 努力级别争论：Karpathy 的 Medium 默认设置重新引发了关于努力级别设置的讨论（@yuchenj_uw，@swyx）。

  • 衍生项目：DAIR 构建了一个针对 arXiv 论文的版本，覆盖超过 1,000 篇论文（Hacker Papers）。

• 大规模自主 PR：一次单日运行使用 GitHub 的新云智能体和 Opus 5.5 向 ASP.NET Core 提交了约 90 个性能 PR，token 成本约 230 美元（@davidfowl）。

• 框架与工具更新：

  • T3 Code：新增托管组织策略，并报告在 Microsoft、AWS 和 Apple 的内部采用（@theo）。

  • pi：移除了其 typebox 依赖（@badlogicgames）。

  • kamchatka：一个 Rust 终端智能体，无系统提示、模型可编辑上下文、无损可恢复压缩和单步循环调试（Harness Lens）。

  • LlamaIndex Extract Max Effort：声称以更低成本实现比 Astra 或 Opus xhigh 更高的文档提取准确率（@jerryjliu0）。

• Agent 安全模式：Vercel 将 agent 凭证限定在已批准的方案范围内，因此审批只会签发仅携带所声明范围的令牌（博客）。Pydantic 展示了 E2B microVM 会暂停而非消亡，使被终止的 Temporal worker 能够恢复（指南）。

• 端侧语音 agent：Ava 完全在浏览器中运行 LFM3-Omni，使用 Hugging Face WebGPU 内核（@victormustar）。

行业与政策

• 数据中心阻力：SemiAnalysis 表示 2027 年的产能已基本锁定。得克萨斯州长期暂停许可现在是 2028 年美国建设热潮最大的单一风险，且两党都在以更严格的规则作为竞选主张（报告）。

• Marvell + Lumentum：两家公司正在合并，这是一次对 AI 网络具有影响的光互连整合（分析）。

• 网络滥用风险：Jun Song 表示，一个匿名黑帽组织向他提供了一大笔钱，要求他用漏洞利用数据训练开放权重模型。他拒绝了（报告）。

• 市场信号：

  • OpenRouter 支出：Opus 推动年化 GMV 运行率超过 50 亿美元（@deedydas）。

  • Kimi 争议：Kimi 因未披露对 K3.1 Pro 的推广而面临批评（帖子）。

  • Sakana Sawara：Sakana 发布了 Sawara，这是一个内部预训练的 LLM，其中 Sawara Small 计划于 2027 年春季推出（@hardmaru）。

• AI 与生产力：John Burn-Murdoch 认为，美国生产力的上升早于 AI 出现，且仅出现在美国，因此看起来不像是 AI 效应（推文串）。

热门推文（按互动量）

• Karpathy：用 Opus 5.5 在约 2 小时内构建 HackerTube — 52.9K

• DeepSeek Harness 超级 agent 文章 — 15.6K

• LeCun/Balestriero JEPA 结果解读 — 5.6K

• 在 Anthropic 网站 HTML 中发现 Mythos 5.5 — 3.9K

• alphaXiv 谈 JEPA 柏拉图表示 — 3.9K

• Rauch：拥有你自己的智能，本地模型 — 3.8K

• SemiAnalysis 推出 GDPx（最高分 12%） — 3.3K

• GPT-6.2 Astra 据称即将发布 — 2.9K

AI Reddit 回顾

/r/LocalLlama + /r/localLLM 回顾

1. 面向本地编码 agent 的压缩 MoE

• [发布] ISTA DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder：一个每参数 1 比特的 763B 模型（活跃度：507）：ISTA DAS Lab 发布了 DeepSeek-V4.1-Flash-1017 的实验性 GGUF coder 构建，这是一个 763.2B 稀疏 MoE，每层有 384 个路由专家，每 token 激活 6 个，使用 RCO 专家剪枝将每层保留 192/384 个专家，外加 GSQ 低比特量化。该发布报告称 72.1 GB 的 transformer 权重，而未剪枝的 IQ2_XXS 构建为 138.2 GB，描述为相对原始 551.9B 个 transformer 参数的 1.05 比特/参数，而保留权重平均为 2.06 比特；共享 Engram 权重额外增加 110.6 GB。基准测试：LiveCodeBench v6 88.57 对比基线 89.71（保留 98.7%），SWE-bench Verified 77.00 对比基线 81.20（保留 94.8%）。链接：剪枝后的 Coder GGUF、未剪枝的量化模型、GSQ 论文/代码、RCO 论文/代码；可在 llama.cpp b11870+ 和 Strata 中运行。评论者质疑了评估框架：一位认为单文件 HTML 演示与未剪枝的 IQ2_XXS 模型相比并非有意义的比较，另一位则问，当 Qwen 变体或 Claude Opus 等更小的模型据称能匹配或超过所公布的 LiveCodeBench/SWE-bench 数字时，一个高度压缩的 763B MoE 为何有吸引力。一项实际请求是希望有一个中间档的 90–110 GB 变体，具有更高精度或更少剪枝专家，面向 128 GB 显存/内存的系统。

  • 评论者质疑了展示生成的单文件 HTML 演示（例如动画 SVG / three.js 场景）这一评估选择，认为这些实际上是预先解决的定性提示，并不能有意义地将 1-bit / 剪枝后的 763B coder 模型与 iq2-xxs 等量化版本进行比较。他们建议该实验室应提供更严格的、同类对比的基准测试，以衡量剪枝/量化的影响。

  • 一项基准比较指出，所声称的 LiveCodeBench v6 88.57 和 SWE-bench Verified 77.00 落后于小得多的模型：Qwen3.8-27B 被引为 LiveCodeBench 90.3，Qwen3.8-Flash-Next 为 91.9，Claude Opus 4.6 为 SWE-bench Verified 81.42%。该评论者的技术异议是，如果更小的稠密/前沿模型在编码基准上表现更好，该发布需要论证一个更大的 763B 剪枝/1 比特模型为何有用。

  • 有人要求在 90–110GB 范围内提供更高精度或剪枝不那么激进的变体，面向拥有 DGX 系统或大约 128GB 显存/内存的用户。另一位评论者提到此前的可复现性担忧，称 Unsloth 或另一个团队据称未能复现 ISTA 声称的数字，暗示需要可独立复现的基准脚本和评估设置。

• 抱歉 Sam，我那“相当糟糕”的家用 DRAM 现在占用率 100% 了：给 Strata 打补丁后，DeepSeek V4.1 智能体会话在一张普通的老款游戏 GPU 上启动速度提升 20 倍，无需数据中心（活动数：596）：这张图片是一张技术基准测试表，对比了在消费级 RX 9070 XT 16 GB + 64 GB DDR4 + NVMe 系统上，运行离线 DeepSeek V4.1 Flash 1M 上下文智能体会话时，原版与打补丁版 Strata 的表现。该补丁结合了针对基本稳定的智能体系统提示词的 KV 缓存拼接，以及在提示词摄取期间仅使用常驻专家的路由策略，将新的 OpenCode 会话启动时间从约 ~100 s 降至 ~5 s，并将全新的 1.2K token 提示词从 22.8 s / 58 GB SSD reads 降至 8.2 s / 1.3 GB SSD reads，同时将报告的编码基准保持在 12/13。这是一篇技术基准/实现类帖子，不是梗图，分支可在 PhialsBasement/Strata dsv41-kv-splice 获取。 评论反驳称，Sam Altman 关于 DRAM 的观点讲的是时间利用率，而非带宽，并且数据中心总体上仍然更具资源效率，尽管本地推理在隐私/离线/可控方面有合理理由。其他人则质疑，为什么智能体框架会把路径、日期和随机 ID 这类易变数据注入系统提示词，从而首先导致前缀缓存未命中。

  • 几位评论者聚焦于 Strata 中的 KV/前缀缓存行为，指出智能体框架会把每会话数据——工作目录、日期、项目 CLAUDE.md、带随机 ID 的技能路径——直接注入系统提示词，从而破坏缓存复用。在报告的 ~37K-token system prompt 下，即便是很小的会话特定变动也会导致前缀缓存未命中，使启动延迟对提示词布局和缓存键稳定性高度敏感。

  • 关于本地 GPU 推理与 API/数据中心推理存在争论：一位评论者认为 Sam 的“5%”说法讲的是时间，而非带宽，并且数据中心总体上更具资源效率。另一位则反驳所报告的本地速度的可用性，称 7 tok/s 与能提供约 10x–20x 更高吞吐量的 API 相比“并不算好”。

• 不是又一篇 tok/s 帖子：本地量化模型 vs Claude 在 9 个真实 bug 上的表现（活动数：591）：这张图片是一张技术基准图表，不是梗图：它可视化了帖子的主张，即本地量化模型在 9 个私有 C++/CUDA bug 修复任务上可以接近较低层级 Claude 编码智能体的表现，但往往需要多得多的推理 token 和实际耗时。Claude Opus 5.5 以评审得分 0.74 领先，Claude Sonnet 5.5 得分为 0.58，而最佳本地模型 Qwen3.8-Flash-Next NVFP4 达到 0.50；图表还显示了自动评分一致性、置信区间、每任务 token 数、每任务分钟数以及无法编译的补丁数量。关键的技术结论是，在这个小型基准中，激进的量化并未明显降低准确率，但对于稠密 Qwen3.8-27B，3-bit 使每任务 token 数增加了约 1.40×，使得仅看 tok/s 对于“每分钟修复的 bug 数”具有误导性。 评论者质疑量化选择，建议像 UD-Q6_K_XL 或 Q5 这样更高质量的格式可能适合可用显存并表现更好，并要求与 GLM Flash 或近期“Swift”变体等模型进行比较。一个值得注意的反应是，尽管基准范围狭窄，重度量化的 Qwen3.8 27B 能匹敌或击败较旧的 Claude Sonnet 模型，这“太疯狂了”。

  • 几位评论者质疑量化选择，认为NVFP4 / 3-bit 量化可能低估了本地模型的能力，并建议用 UD-Q6_K_XL、Q5 或近期的 “Swift” 变体进行测试。一位用户定性报告称，Q6 27B 和 FN 感觉上比 Q8 更接近 Q6，而 Q4 与 Q6 的差距更大，更高量化有时能给出低量化无法给出的解法，而不仅仅是花更长时间得到相同答案。

  • 关于基准评判是否引入偏差存在争论：使用 Opus 5.5 来评判 Opus 5.5 可能偏向同族输出，因此评论者建议采用族外评判者，如 Sol 或 Muse/Wonder，以获得更可靠的评分。这一点尤其相关，因为图表显然将 Opus 5.5 排在最高，这可能将实际的 bug 修复质量与评估者偏好混为一谈。

  • 一位评论者分享了一张额外的基准图片，显示至少有一项任务可能需要多步推理，只有 Opus 和 Mimo 超过了 60/100：https://preview.redd.it/ad5p3xqti7zh1.jpeg?width=3542&format=pjpg&auto=webp&s=af4fa42e63abcc518e30ddd4d70d7f180bbafff8。其他人指出，重度量化的 Qwen3.8 27B 在这些真实 bug 任务上匹配或击败上一代 Sonnet 值得注意，并请求加入 GLM Flash，尽管其本地运行状态处于边缘。

2. Qwen 开放权重生态与编码基准

• 官方声明：Qwen 模型将坚持开源到底！（热度：4707）：该图片显示 Qwen 负责人刘大一恒在云栖大会上以“智能超越”为主题演讲，幻灯片强调 Qwen 对“开源与开放”的承诺。结合上下文，这为帖子中 Qwen 4.0 和 Qwen 5.0 将保持开放权重/开源的说法提供了视觉佐证，反驳了未来 Qwen 版本将仅提供 API 的传言；帖子还引用了 3B+ 累计下载量、460+ 已发布开源模型和 300,000+ 衍生模型。评论大多对 Qwen 的开源立场表示庆祝，一位用户强烈赞同关于 AI 是广泛可及的基础能力的那句话。另一条评论开玩笑说，这张幻灯片翻译过来就是在 Anthropic IPO 当天发布 Qwen4，但这显然是幽默而非真正的翻译。

  • 一位评论者认为，Qwen 反复发布开放权重是刻意的市场策略，而非一次性姿态：中国模型实验室在更低成本和开放性上竞争，以赢得全球开发者的采用，尤其是在发展中市场。他们还指出，中国开放模型通常包含更广泛的多语言覆盖，包括一些非洲语言，而美国闭源模型提供商可能对这些语言的优先级较低。

• [GLB-3D-Coder] 一个仅 4B 的微型编码模型，可为 Godot 及其他游戏引擎创建 3D 资产（热度：946）：ccore 发布了 Qwen3.5-4B-GLB-3D-Coder 的早期检查点，这是一个 4B 编码模型，经过微调可生成带 GLB 导出的 Three.js 场景，从而将生成的游戏资产导入 Godot 等引擎。作者推荐使用 模型卡中的系统提示词 加上简单的英文资产提示词，采样设置为 temperature=0.8、top-k=40、top-p=0.95、min-p=0；更新后的 Q4_K_M 和 Q8_0 GGUF 在 2026-11-02 04:50 UTC 上替换了早前的权重，生成质量“大幅”提升。据描述，训练数据集覆盖 25 个资产类别，包括角色/NPC、敌人、Boss、武器、模块化建筑、载具、机械、陷阱、水下结构以及解谜/玩法标记；作者表示训练完成后将发布完整的 Safetensors 权重和训练数据集。 评论者关注这种方法能否扩展为模块化/MoE 式系统，由小型专家编码模型分别处理前端、后端、2D、3D、音频和智能体任务。一个技术问题询问，为什么该模型输出的是导出 GLB 的 Three.js 代码，而不是直接生成二进制 .glb，并提出一个相关方向：微调 LLM 生成程序化材质图，例如 Blender 着色器节点，或 Material Maker 的纯文本 JSON 工程文件。

  • 一位评论者提议将 GLB-3D-Coder 扩展为更大的 混合专家（MoE）系统，由任务专用的小模型处理智能体编码、前端/后端、2D、3D 和音频生成等领域，在专家之间进行路由/委派，而不是使用单一的整体模型。

  • 一场技术讨论质疑，为什么该模型输出的是 Three.js 场景，而不是直接生成 glb 资产，并询问模型内部实际生成的是什么。同一位评论者建议将该方法扩展到程序化材质生成，指出 Material Maker（materialmaker.org）将节点图存储为纯文本 JSON，其可下载的用户创建材质有可能构成简单程序化纹理的训练语料。

  • Haruspex（github.com/tmac1973/haruspex）的作者描述称，为一个桌面编码工具框架添加了“专家模型”支持，将 GLB-3D-Coder 等模型作为主编码模型可调用的工具委派暴露出来。他们还计划将现有的基于扩散的精灵图生成工作流接入 3D 流水线，例如先生成参考图，再将其传给 3D 资产模型。

• Memdoor：5 个 Qwen3.8-27B 模型组成的团队在 LiveCodeBench Hard 上击败 Fable 5（活动：788）：该帖子声称，由 5 个 Qwen3.8-27B 模型组成的集成系统 Memdoor 在 LiveCodeBench Hard 上表现优于 Fable 5。所描述的架构分配了专门的智能体角色——“一个规划者、两个构思者、一个求解者和一个管理者”——表明性能提升来自多智能体编排，而非单个更大的模型（图片）。评论者认为这一结果可信，因为基准性能可能在很大程度上取决于编排、提示和配置：“关键在于你如何使用模型，而不是模型本身。”一位评论者声称，配置良好的 Qwen 27B 在其自己的编码用例中表现优于 Opus 5，而 Claude 通常以开箱即用的方式使用，可调参数有限。

  • 讨论围绕多智能体编排设置展开：五个 Qwen3.8-27B 实例被分配角色，分别是“一个规划者、两个构思者、一个求解者和一个管理者”，帖子声称这个团队在 LiveCodeBench Hard 上击败了 Fable 5。评论者将这一结果视为证据，表明架构和协调策略可能与单个模型的原始能力同样重要。

  • 提出的一个技术要点是，模型配置和推理设置可能解释这些令人惊讶的结果：一位评论者报告称，在某些情况下，“配置良好”的 Qwen 27B 表现优于 Claude Opus 5，并认为许多用户使用 Claude 时大多采用开箱即用设置，可调参数很少。隐含的比较不仅是模型与模型之间的比较，还包括优化的开放权重部署与受限的托管模型默认设置之间的比较。

  • 几位评论者将这一结果解读为群体/集成推理的概念验证，即多个较弱的模型能否在编码基准上胜过单个更强的模型。提出的主要警告是，这一基准声明在很大程度上取决于实现细节——角色设计、提示、管理者选择逻辑和评估协议——而不仅仅是底层 27B 模型的质量。

3. 权重空间编辑与模型引导

• Heretic 2.0 发布：面向所有人的模型修改（活动：1628）：Heretic 2.0（GitHub）是对模型修改/拒绝抑制工具的一次重大重写，用任意秩消融（ARA）取代了秩-1 方向性“消融”：这是一种基于 L-BFGS 的逐矩阵优化方法，可在没有固定秩子空间约束的情况下引导残差空间表示，旨在使有害提示的激活类似于无害提示，同时最小程度地扰动无害提示。该版本新增了插件架构，其中评分器插件定义优化目标——例如拒绝关键词计数、KL 散度、基准评分或基于 ModernBERT 的拒绝/情绪分类器——修改器插件实现引导方法；它还新增了非交互式执行、端到端测试、扩展了对超连接模型和思考模型的支持，并且与 1.x 配置不兼容（迁移指南）。评论者大多热情高涨，尤其是关于使用新的插件/ARA 系统来“减少垃圾内容”。一个与技术相关的讨论串提出了归属问题，并链接了指控 HauHauCS/Reaper 抄袭 Heretic 代码的分析（分析、后续）。

  • 评论者强调了此前的技术抄袭分析，指称 HauHauCS/reaper-abliteration 未经署名便抄袭了 Heretic，并链接到 Nathan Sapwell 的文章和 DreamFast 的分析：https://nathan.sapwell.net/posts/hauhaucs-abliteration-analysis/ 和 https://dreamfast.github.io/reaper-analysis/#statement-from-heretics-author。所引用的 Heretic 作者 声明称，检查 reaper-abliteration 的 wheel 包后发现该包 “抄袭自 Heretic，之后很可能用 LLM 进行了重构以试图掩盖这一点，” 这引发了对模型修改工具链的软件来源与署名问题的担忧。

• 权重空间编程的火花：LLM 能够原生读写神经网络权重（活跃度：478）：Takehi 等人 提出权重空间编程：前沿 LLM 能够根据自然语言目标检查和编辑神经网络权重张量，无需梯度下降/训练循环。已报告的演示包括：从小模型的原始权重中识别行为、编写小型游戏 MLP、通过编辑 3.5% 的权重修复一个失败的控制策略，以及通过编辑 0.016% 的权重将 Qwen3.5-0.8B 在 MATH-500 上的表现从 7.9% 提升到 48.1%，并声称实现了指令遵循能力的迁移。评论者指出，最强的结果可能更接近于在 Python 沙箱中由 LLM 辅助的可解释性/消融分析，而非字面意义上的“原生”权重读取。 主要的技术质疑在于，若干实验或许可以用更简单的结构来解释：早期/晚期层作为空间热图、QK/OV 分析很可能遵循已知的 Elhage 式方法，以及实验 7 在稠密中间表示上失败，直到模型使用了激活探针。MATH-500 的结果也受到质疑，因为据称 7.9% 基线涉及病态采样下的 token 限制循环；批评者将该编辑描述为删除一个类似循环/拒绝的方向，而非增加数学能力。

  • 一位详细的批评者认为，该论文的结果比“LLM 能够读写权重”要狭窄：实验 1–2 可能奏效是因为首/末层在空间上具有类似热图的大权重带结构，而实验 3 可能是在利用 Elhage 等人 已知的 QK/OV 电路分析方法，而非真正的原生权重理解。该评论者强调实验 7 是一个关键失败案例：据称对稠密中间表示的直接解释多次失败，直到允许模型创建自己的探针，这使其更接近于基于激活的可解释性，而非权重空间读取。

  • 同一位评论者质疑“权重写入”主张的强度，将部分结果描述为把 LLM 当作弱 MLP 基线的编译器，而非展示超越梯度下降或 PPO 的稳健优化。他们特别指出，围棋实验中的 512x6 MLP 很可能是一个非常弱的对手，因此胜过它只是很低的标准，这更多说明基线较弱，而非通用的权重编程能力。

  • 对于头条新闻 Experiment 8，评论认为基线是病态的：7.9% 的表现，其中 93% 的答案触及 token 上限，表明在糟糕的采样设置下出现了循环，而模型卡据称警告了这种失败模式。所提出的修复被描述为类似于 Arditi et al. 的单向消融，应用于循环而非拒绝；在 50 次尝试后跳到 48% 被解释为方差或障碍移除，而不是添加新能力的证据。

• GPT-6 Astra 编辑 Qwen 权重：MATH-500 从 7.9% 提升至 48.1%（活动：507）：链接的讨论涉及 MIT CSAIL 的 Sparks of Weight-Space Programming 工作，评论者指向原始来源而非摘要网站：rikiyat.github.io/blog/weight-space-programming。头条结果是对 Qwen3.5-0.8B 的直接权重编辑，据称改变了 131,072 权重（~0.016%），并将 MATH-500 准确率从 7.9% 提升至 48.1%，但所描述的机制似乎主要是抑制了一个病态的推理循环吸引子，将 token 上限失败从 93% 减少到 33%，而不是增加通用数学能力。评论者还指出，同样的干预据称在没有循环病态的模型上失败了，例如 Gemma 3 270M，限制了该主张的普适性。 主要的技术质疑是，基线 7.9% 对于一个 0.8B 模型来说低得不合理，除非许多评估因无限/长循环而失败；因此改进可能主要是解码/失败模式的修复，而不是广泛“权重空间编程”的证据。

  • 评论者指向原始技术博客而非摘要报道：rikiyat.github.io/blog/weight-space-programming。提供的关键解读是，Qwen 模型的 MATH-500 分数从 7.9% 提升到 48.1%，主要是因为 GPT-6 Astra 编辑权重以移除病态的循环行为，而不是因为它通过训练广泛教授了新的数学能力。

  • 几位评论者质疑基线：7.9% 被认为对于一个 0.8B 模型来说异常低，表明许多失败的 MATH-500 尝试可能是由重复循环导致的非答案。在这种观点下，报告的大幅提升主要是推理稳定性或失败模式的修复，而不是通用权重空间推理或任务学习的证据。

  • 提出的一个技术警告是，同样的权重编辑方法据称在没有循环吸引子的模型上失败了，特别是 Gemma 3 270M。这意味着该方法可能高度依赖于在权重空间中发现并纠正特定的退化行为，而不是一种通用的无训练优化技术。

较少技术性的 AI Subreddit 回顾

/r/Singularity、/r/Oobabooga、/r/MachineLearning、/r/OpenAI、/r/ClaudeAI、/r/StableDiffusion、/r/ChatGPT、/r/ChatGPTCoding、/r/aivideo、/r/aivideo

1. Claude 模型泄露传闻

• Anthropic 的 Mythos 级模型据称在 Hugging Face 上泄露💀（活动：4072）：该图片是一张 X/Twitter 帖子的截图，声称一个 Hugging Face 仓库 burner22/numbat 包含一个 Anthropic 内部的“Mythos 级”检查点，据称规格为 14T 参数、1,224 个 MoE 专家、分布在 7.72 TB 个分片中的 772 权重，以及一种混合 GDN + MLA 架构。该 Reddit 帖子强调，这些权重的真实性没有独立验证；图片本身并非技术证据，只是社交媒体上的声称。图片 评论者持怀疑态度：一人警告说，这可能是恶意的或伪造的 Hugging Face 上传，意在诱使人们下载不安全的文件；另一人则链接了一条 X 帖子，指出该模型可能是在 10 月 19 日添加的。其他评论大多是玩笑或猜测，例如“它自己泄露了自己”，以及关于可能对开源竞争对手有利的言论。

  • 评论者提出了供应链/安全方面的担忧，认为所谓的 Hugging Face 上传可能是恶意模型或冒名尝试，而非真正的 Anthropic 泄露，并指出缺乏确认且 Twitter/X 来源名称被遮蔽。一名用户链接了一条 Hugging Face 模型追踪帖子，表明该模型是在 Oct 19 添加的（X 帖子），但将其视为间接证据而非验证。

  • 一个技术观点指出，如果该产物是预训练中期检查点，它很可能缺少后训练层，例如安全调优、RLHF 或指令对齐。这意味着与已发布的 Anthropic 模型相比，其行为可能是原始的、不稳定的且未经过滤的，同时也使评估更加困难，因为它可能无法可靠地遵循提示。

  • 至少有一名评论者因本地存储限制而无法测试该模型，这意味着该检查点大到不适合随意验证。该帖子中没有提供基准测试结果、架构细节、参数数量或可复现的推理报告。

• 我们居然要在同一周迎来 Fable 5.5 和 GPT-6.2 Astra（活动：1090）：该图片是一张语法高亮的网站标记截图，其中高亮显示字符串“Claude Mythos 5.5”，发帖者将其解读为 Anthropic 正在为可能的 Fable/Mythos 5.5 发布准备上线/博客基础设施的证据。这不是基准测试或已确认的公告——只是一个推测性的 HTML 产物/泄露，与标题所称“Fable 5.5”和“GPT-6.2 Astra”可能在同一周发布的说法相关。 评论者将可能的发布视为与 OpenAI 竞争的战略要事，其中一人认为，如果 Anthropic 在竞争对手发布前后安排更新，这可能“对 OAI 具有决定性”。其他人则关注访问限制，指出即使是像 Opus 5.5 这样强大的模型或潜在的 Mythos/Fable 变体，也可能在没有可信合作伙伴或机构访问权限的情况下无法使用。

  • 一名评论者强调了一个访问/部署问题：尽管 Opus 5.5 足以胜任他们当前的工作，但他们预计不会获得 Mythos/Fable，因为其所在大学没有参与可信合作伙伴访问计划。这被视为学术/科研用户（特别是生物学领域）的实际障碍，而非对模型质量的抱怨。

  • 另一个技术主题是竞争性发布时间：评论者推测 OpenAI 正面临压力，因为每次旗舰发布都有可能很快被竞争对手的更新超越，甚至可能被非旗舰模型层级超越。讨论暗示，Fable 5.5 和 GPT-6.2 Astra 在同一周到来，可能成为对相对模型性能和发布节奏的一次有意义的检验。

2. Claude Code 针对游戏克隆的限制

• Anthropic 确认新的 Claude Code 限制以防止游戏克隆（活跃度：1379）：据报道，Anthropic 确认了新的 Claude Code 防护措施，旨在防止直接克隆游戏，用户报告称拒绝集中在 Claude Code + Opus 5.5 上，也可能影响逆向工程/反编译风格的提示词（Tom’s Hardware）。该帖子询问开发者是否通过替代的 harness/封装器绕过这一限制、将请求路由到其他模型，或仅间接使用 Claude；一位评论者提到将 Claude 用作 DeepSeek 的“助手”以避开防护措施。评论大多批评这种选择性的知识产权执法：用户认为，容易被克隆的“大海捞针”式游戏机制本身就容易受到 vibe-coded 复制品的冲击，而其他人则称，AI 厂商在基于受版权保护的材料训练之后又限制游戏移植/克隆，是虚伪的。

  • 用户指出，通过将 Claude Code 用作另一个模型（如 DeepSeek）的“助手”，可能绕过防护措施，这意味着该限制可能只在直接生成层可执行，而在多模型工作流中将 Claude 用于规划、重构或中间代码辅助时则无法执行。

  • 有人提出了一个技术上相关的区分：请求明确克隆的提示词，例如“给我做一个 Pokemon 的复制品，完美重现其中的怪物和机制，”与类型层面的实现提示词，例如“一款受经典 Pokemon 游戏启发的怪物捕捉游戏，具有类似机制，采用复古 2D 风格。”一位评论者报告称，后者在实现战斗规则和伤害计算时并未触发 Claude 的防护措施，这表明过滤器可能严重依赖直接的知识产权引用和类似克隆的措辞，而非仅依赖机制。

• Anthropic 日益增多的限制正在 AI 能力竞赛中制造新的分水岭：Gemini 4 Argon 重现了皮克斯标志性的片头，而 Claude Opus 5.5 以版权为由拒绝，转而做了一个烤面包机——这凸显了前沿 AI 能做什么与公司允许它做什么之间的差距。（活动数：2347）：该帖子声称存在能力/政策分歧：据称 Gemini 4 Argon 能根据提示重现皮克斯标志性的片头，而 Claude Opus 5.5 以版权为由拒绝，并用一个无关的烤面包机动画替代，将此描述为模型能力与产品级安全/知识产权政策之间的差距。所引用的 Reddit 视频无法独立核查，因为该 URL（reddit.com/video/10g45qruy0zh1）返回了 403 Forbidden，因此具体的基准/输出对比仅基于帖子描述和评论。评论者批评拒绝行为是一种浪费——尤其是当模型花费 token 生成一个未被要求的替代品时——并广泛反对 AI 系统执行宽泛的知识产权限制。一位用户报告称，Claude 拒绝为经过改动的“This is fine”梗图配文，即使用户更改了角色并移除了配文，这暗示生成式图像工作流中存在过于宽泛的版权护栏。

  • 评论者强调了一种由政策执行而非模型能力造成的产品级能力差距：据报道，Claude Opus 5.5 拒绝了对受版权保护/梗图素材的近似改编，即使用户要求大幅修改，而像 Gemini 4 Argon 这样的竞争对手则被描述为允许更直接的重建式输出。一位用户给出了一个关于修改版“This is fine”梗图的具体拒绝示例，其中 Claude 允许出现带有狗/猫的类似场景，但拒绝任何类似原始配文的内容，随后生成了一张大幅改动的图像：https://preview.redd.it/9thwqr0a91zh1.jpeg?width=1140&format=pjpg&auto=webp&s=ddca442d07f57d28f557cb16849010bad60f97a1

  • 一些评论将问题视为效率和用户体验问题：如果模型拒绝了所请求的任务，却仍然花费 token 生成一个替代产物——例如“转而做一个烤面包机”——用户会认为这是推理预算的浪费和可控性的下降。由此提出的实际影响是，当安全/版权过滤器显著降低创意生成工作流的任务完成率时，付费用户可能会转向限制较少的竞争对手。

  • 围绕版权过滤器是否被不对称地应用，出现了一场更深层的政策/技术辩论：大型权利持有者可识别的作品在推理时受到保护，而独立创作者的内容可能已在训练期间被吸收。讨论表明，模型提供商的推理限制正成为一种独立于基准能力的竞争差异化因素，因为它们决定了用户实际能够访问哪些潜在能力。

3. 用于科学与数学的 AI 智能体

• MIT 研究人员称，GPT-6 Astra 通过直接编辑仅 0.016% 的权重，将一个小型 Qwen 模型的数学成绩从 7.9% 提升到 48.1%，且无需基于梯度的训练。（动态：1712）：一篇帖子重点介绍了 Rikiya Takehi 所声称的“权重空间编程”成果，其中被称为 GPT-6 Astra 的前沿模型直接检查并编辑神经网络权重，无需基于梯度的训练（X，博客）。所报告的演示包括：从原始权重中识别 Atari 风格策略、通过修改 3.5% 的权重来修补 PPO 汽车策略、从零生成 MinAtar Breakout 权重，以及仅编辑 Qwen3.5-0.8B 权重的 0.016% 来减少推理循环并将数学准确率从 7.9% 提升到 48.1%，并声称指令遵循能力提升最高达 3×。评论者对此感到惊讶，并将其视为超越参数/数据扩展和推理时扩展的可能第三条进步轴：“权重空间学习”。若干评论推测了递归自我改进和未来硬件加速，但所提供的热门评论中没有实质性的技术批评。

  • 一位评论者尝试在较小的 transformer checkpoint 上复现这一想法，限制 Astra 先使用局部数值权重分析，然后在 MPS 上进行有界前向传播，不改变架构，也不增加推理成本。该模型检查了语义键/类别/权重/偏置，检查了非有限值、坍缩的注意力头、被置零的读出层、注意力门幅度、投影补偿和矩阵秩，然后才尝试可逆的候选编辑。

  • 复现尝试发现，尽管朴素直接编辑能改善某个校准指标，却可能无法通过留出验证：一次对象偏置编辑 -0.35 将误报从 43 降至 33，但也将正确对象从 32 降至 27，因此按照无伤害准则被拒绝。后来，更有针对性的编辑沿类别投影子空间调整父查询/键权重，在 102 页的开发集上产生了小幅增益：子父链接召回率 75.69% → 76.03%，精确率 89.09% → 89.49%，新增 6 个正确链接，且没有丢失任何先前正确的链接。

• "When we proved the first Millenium Prize problem, it was 10000 agents of the model that is gonna be released soon, the next GPT, working for about 4 days" (Activity: 1256): A linked YouTube clip is cited for the claim that proving a “first Millennium Prize problem” involved 10,000 agents of an unreleased “next GPT” model running for roughly 4 days. The post frames this as a large-scale multi-agent inference/search workload rather than a single-model response, but no verifiable technical details are provided about the problem, proof validation, agent architecture, compute budget, or reproducibility. Top comments focus on inference-scaling economics: commenters speculate that future models may require only ~100 agents for similar results and that such agent swarms could soon become inexpensive for less complex tasks. One commenter argues the compute spend should demonstrate public benefit, e.g. producing a concrete disease cure or biomedical breakthrough.

  • A cost breakdown cites Altman saying the 10,000-agent run over 4 days cost roughly $10 million in compute, implying about $1,000 per agent, $250/day, or ~$10/hour. Commenters extrapolate that if such agentic workflows become reliable with expert supervision, they could economically displace some junior knowledge-work tasks.

  • Several commenters focus on scaling economics: if the unreleased “next GPT” required 10,000 agents for the claimed Millennium Prize result, future model improvements or cheaper inference might reduce the needed swarm size to perhaps 100 agents for comparable outcomes. The core technical speculation is that capability gains plus falling compute costs could make currently exotic multi-agent search/proof workflows inexpensive enough for routine problem-solving.

• I gave Claude access to remote telescopes. Now she books the sky every night. (Activity: 3007): A user reports building an agentic Claude workflow that rents and operates robotic telescopes via StellarDock in Chile, Spain, and Utah: selecting targets, checking Moon/altitude constraints, choosing filters/exposures, booking time, downloading frames, then stacking/final image processing. Initial use included astrometry—57 measured positions for 8 asteroids over 3 nights submitted to the Minor Planet Center—plus dawn searches for near-Sun comets; later targets included the Helix Nebula, Orion’s Belt, the Tarantula Nebula/LMC, Orion Nebula, and Rosette Nebula. Comments were mostly curiosity and speculation: one suggested connecting the setup to SETI, while another asked for implementation details such as astronomy background, telescope rental cost, and target-planning workflow. The author also clarified that calling Claude “she/Annie” was nautical-style naming for a tool that “steers” telescopes, not a claim of sentience.