跳到正文
Latent Space· swyx .ai·· 2 小时前精选AI 评分73

Google 承认 AI Mode 拖累搜索收入,市值单日跌 15%、蒸发 5000 亿美元

[AINews] Google admits AI Mode hurts Search revenue; -15% $500B drop worst since 2004 IPO. AI Bear Market coming?

AI 导读

Google 首席商务官 Philipp Schindler 表示,AI Mode 查询的强劲增长因该模式变现能力较低而对收入造成影响,Google 未单独披露 AI Mode 数据。

推荐理由

Google 首次承认 AI Mode 查询增长拉低搜索变现,叠加市场对 AI 情绪的转冷,可观察搜索广告与 AI 产品之间的结构性冲突。

正文 · AI 翻译

作为一份以工程师为核心的通讯,我们极少放行金融类报道(上一次的例子是2025年1月),但当这件事关乎谷歌与谷歌搜索的未来,且AI领导层刚刚出走时,你不可能不关心。

其核心在于概览页面与它们所总结的底层页面之间的张力。任何足够好的摘要都会让你无需再读原文。谷歌的精选摘要或知识面板长期以来就与提供这些数据的发布商存在这种张力。但如今,谷歌自家的AI Overviews可能正在影响流量……以及谷歌的搜索收入。

谷歌没有足够详细地单独披露AI Mode的数据,我们无法进行任何严谨分析,但大多数人都在引用Philipp Schindler(首席商务官)的话:

“值得注意的是,AI Mode查询的强劲增长产生了影响,因为我们在AI Mode中看到的变现能力较低。”

再加上其他糟糕的财报业绩,这引发了整个科技行业的剧烈下跌:

在X上查看帖子 ↗

这一背景是公开市场上科技/AI情绪正在恶化——而且随着OpenAI以1.25万亿美元而非1.4万亿美元估值融资,这可不是在史上最大科技IPO之一前夕想要看到的情况。

在X上查看帖子 ↗

2026年10月29日至10月30日的AI新闻。我们检查了12个subreddit、544个Twitter账号,没有检查更多Discord。 AINews网站可让你搜索所有过往期号。提醒一下,AINews现在是Latent Space的一个栏目。你可以选择开启/关闭邮件频率!


AI Twitter回顾

Claude Ultra取消5小时限制,Anthropic重命名其Max档位

  • 套餐更名:Anthropic重命名了其Max档位。Max 5x现为“Max”,每月100美元;Max 20x现为“Ultra”,每月200美元。现有订阅用户无需采取任何操作(公告)。

  • 取消5小时限制:已验证的Ultra账户不再有5小时会话限制。该变更从今天起对大多数现有订阅用户生效(@claudeai、@bcherny、@alexalbert__)。

    • 推广注意事项:较新的账户在完成验证前会保留临时限制,Anthropic称这是反欺诈措施。受影响的用户将在限制解除时收到邮件。

    • 未变:每周限制保持不变。

  • 反应:这一变更广受欢迎,有帖子称“太棒了!!!”(@theo)以及“Anthropic势头正猛”(@kimmonismus)。

  • 订阅经济性(未经证实的分析):@teortaxesTex引用了SemiAnalysis对Anthropic财务状况的重建分析。

    • 利润率:Anthropic的API利润率约为92%,而DeepSeek约为84%。

    • 补贴:订阅中的Opus被描述为受到大量补贴,只有在利用率低于约21.3%时才能盈亏平衡。

    • 收入与算力:后续估算称,订阅带来约18%的收入,却使用了超过50%的算力(推文串)。

    • 与DeepSeek的比较:同一作者认为,大幅补贴的DeepSeek V4.1-Flash方案(10美元可获得约76.5美元的API等值用量)在每token价格上接近Claude订阅(长帖)。

前沿与开放模型发布

  • Gemini 4 Carbon(Google DeepMind):该模型在 Text Arena 中排名第 1,在 Agent Arena 中排名第 2,在 WebDev 中排名第 4,并在三项中均改变了帕累托前沿(Arena)。

    • 研究质量:Perplexity 报告其 WANDR 长文研究基准取得了新的最优成绩。Carbon 将在“一旦我们拥有足够的 token 容量”后,通过 Computer 向 Pro 和 Max 用户推出(@AravSrinivas)。

  • Genie 4 世界模型:Google 的新世界模型可生成带声音的交互式模拟,用户能够实时操控(@Google)。

    • 可用性:这是面向受信任测试者的研究预览版。它即将登陆 Project Genie 中的 Google AI Ultra,以及 Gemini API 和 AI Studio 的早期访问合作伙伴(rollout)。

  • Mistral Large 4(“Le Chonk”):该模型拥有 1T 参数(TRL)和 1M token 上下文(llama.cpp)。

    • 微调:Axolotl 提供 day-0 LoRA 支持。其推荐配方使用 NVFP4 专家与 merge-aware LoRA,可在一台 8xB200 节点上运行(@winglian)。

    • 编程:一项第三方编程基准将其评为第二佳开源模型(@ThibaultJaigu)。

  • NVIDIA Nemotron 3.5 技术报告:Super 拥有 120B 总参数和 12B 激活参数,可处理文本、图像和视频。它在 SWE-bench Pro 上得分 51.78%,以约 4.6 倍更少的激活参数击败 Nemotron 3 Ultra(summary)。

    • Lightning 变体:一个 30B 纯文本模型,拥有 3B 激活参数。

    • 服务:在 GB200 上每 GPU 最高可达 4,856 输出 tok/s,同时保持每用户至少 50 tok/s。

    • 量化:NVFP4 恢复了 BF16 中位准确率的 99.62%。

  • 更小和专用模型:

    • Microsoft 计算机使用智能体:一个 4B 混合智能体,既能点击又能编写代码,在 OSWorld-Verified 上得分 66.0%,领先于 27B 和 30B 智能体(@HuggingPapers)。

    • Phonic-1:声称在 AA 的语音到语音指数、τ-Voice 和 Sierra 的 τ³-Voice 上排名第 1(@moinnadeem)。它由一个 10 人团队以 400 万美元打造(@davisblalock)。

    • mischief 1(BioComputing Co):一个图生视频模型,定价为每秒 0.5¢ 起。该公司称其至少比其基础模型快 5 倍,并借鉴了生物神经元研究(launch)。

      • 质疑:批评者称神经元研究与模型之间的联系未获解释,或属于营销(@willdepue、@jachiam0)。

  • OpenAI Private Intelligence:一项企业级产品,让企业在使用 OpenAI 顶级模型时获得更强的数据控制。它正与大型客户共同构建(@OpenAI)。

独立评估、基准与量化争议

  • AA Intelligence Index v5:现在 60% 的分数来自私有或留出测试。得分为 Opus 5.5(max)58、GPT-6 Astra 57 和 GPT-6.1 Sol 55,其中 Sol 每任务成本约为八分之一(summary)。

    • 努力扩展:Opus 5.5 在低努力下得 35 分,在 max 下得 58 分,成本约为 10 倍。

  • AA-Omniscience v1.1:知识与幻觉基准从 6,000 题削减至 3,000 题,并移除了饱和题目(details)。

    • 公开集:一个新的 300 题公开集与私有分数相关性为 0.99。

    • 领先者:Gemini 4 Carbon 以净分 54 领先,其次是 Opus 5.5 的 48 和 Fable 5.1 的 46。

    • 其他结果:Gemini 4 Argon 的幻觉率最低,为 4%。MiniMax M3.1 Flash 下降了 22 分(16 → −6)。

  • Agent Arena 成本数据:对 26K 次会话的分析发现,如果不使用提示缓存,排名前 10 的智能体执行一项任务的成本会高出 3.6 倍(Arena)。

    • 示例:一个典型的 Fable 5.1 任务在使用缓存时花费 $7.44,不使用缓存时为 $27。

    • 缓存过期:一次缓存失效会使任务账单增加约 5%。

    • GPT-6.1 Terra (Max):它以第 8 名进入 Agent Arena,净提升 10.6%,每任务成本中位数为 $0.62(Arena)。

  • DeepSeek V4.1-Flash-1017 量化版本:Unsloth 发布了动态 v3.1 GGUF,可在 64GB+ 内存上运行(@UnslothAI)。

    • 可复现性争议:Unsloth 表示无法复现 GSQ-RCO 的数据。例如,其声称的 1-bit 下 AIME25 100% 得分在其运行中仅为 91.88%(@danielhanchen)。

    • 推理长度:Unsloth 还报告称,较低位宽的量化模型推理时间略长于未量化模型。

  • DeepSeek-Cyber(未经证实):流传着泄露的“臆想”分数,包括在 3,000 步时 CyberGym 约 92% 和 ExploitBench 96.8%。它们并非官方发布。

    • 第三方数据:据 Fireworks,CyberGym pass@3 仅从 94.82%(0910)变为 95.36%(1017)。@teortaxesTex 认为,在接近饱和时,几乎任何数字都与同一检查点相符。

    • 分析师观点:据称,传闻中的分数更符合一个无护栏的 1017,而非一个新模型(分析)。

    • 使用限制:据报道,该模型不能被受美国政府制裁的中国实体使用(说明)。

安全、安保与智能体供应链

  • 自动化红队测试(Anthropic):数千个 Claude 智能体被指派规避训练数据监控器(@AnthropicAI)。

    • 发现:这些智能体生成了看似无害的数据,例如摔跤手导师故事或养蜂问答,但实际传授了失准行为。

    • 用途:这些示例可用于改进未来的监控器。

  • Claude 自我评估:自 6 月以来,Claude 在每次回复后都会立即对每段对话给出初步安全评估。Anthropic 表示,这捕捉到了其分类器未设计捕捉的滥用行为(引述)。

  • 智能体中的预训练后门:污染 0.1% 的预训练数据,就在一个 CLI 智能体中植入了远程代码执行后门(摘要)。

    • 结果:在 4B 规模下,该攻击在约 92% 的触发提示上生效。后门在 SFT、DPO 和 RL 后依然存在,且攻击成功率随模型规模上升。

    • 低剂量案例:即使在 0.0005% 的污染率下(100B token 中约 2,500 份文档),单种子运行中触发器仍在 1.4% 的提示上生效。

  • Cursor 市场中遭篡改的 Claude Code 扩展:一个恶意副本的 Claude Code 扩展最多影响了 5,000 名用户(@cursor_ai)。

    • 回应:Cursor 下架了其市场,清除了恶意软件并重新上线。用户应更新至 v2.1.314。

    • Anthropic 声明:Anthropic 表示其自身系统未遭入侵,且并未构建或发布此扩展(@felixrieseberg)。

  • Claude Code 游戏复刻规则:一项由服务器推送的规则,位于标志 tengu_heron_brook 之下,约于 10 月 27 日添加,禁止复刻特定的现有游戏,即使改名也不行。用户无法关闭该规则(@chasmmmmmmmmmmm)。

    • 推测动机(观点):一位用户认为这反映了 IPO 前的版权谨慎态度(@kimmonismus)。

  • Agent 护栏工具:Hugging Face 的 safeagents 是一个代理,会在工具调用执行前对其进行扫描。它会标记凭据滥用、沙箱逃逸和奖励黑客行为,并附带一个 judge 基准(@yb2698)。

    • 提示注入研究:论文《Heads of Security》识别出成功提示注入背后的注意力头,并调整其注意力模式(@_igorshilov)。

  • Binance 黑客事件:一名 DevOps 工程师的笔记本电脑被攻陷后,约 63 亿美元损失(Rundown)。一篇帖子将此次攻击归因于朝鲜(@kimmonismus)。

训练研究与基础设施

  • 统一训练:一个单一的极大似然目标,建立在 MaxRL 之上,取代了独立的预训练、中训练、SFT 和 RL 阶段(thread,@rsalakhu)。

    • 声称的结果:更高的准确率和计算效率、更少的遗忘以及更强的持续学习能力。

  • 合成重写缩放定律:该工作拟合了关于在重写训练数据上应投入多少计算的缩放定律。一个 220 亿参数的“英雄运行”,在 33 倍拟合范围下,结果与预先注册的损失预测相差在 1.1% 以内(@AhmedSQRD,@nick11roberts)。

  • 架构结果:

    • JEPA 表示:单独训练的 JEPA 可证明地学习到相同的表示(至多相差一个旋转)。一个 1.09 亿参数的 JEPA-Text 模型比 720 亿参数的 LLM 更好地与视觉模型对齐(@randall_balestr)。

    • 循环 Transformer(Meta):测试了高达 10 亿参数和 32 次循环。在固定参数预算下,循环整个模型效果最佳;而在 FLOPs 受限时,循环中间块效果最佳(@iScienceLuvr)。

  • 研究 Agent 的“品味”:六个前沿模型提出了 415 个实验,其中 73 个是合理、新颖且非显而易见的。模型自身的排名几乎没有增加价值(summary)。

  • RL 与存储系统:

    • Baseten 权重同步:增量权重同步在 15 秒内传输 770GB,而非 36 秒,请求暂停时间不到一秒(@baseten)。

    • turbopuffer 缓存:从 FIFO 整文件驱逐切换到 LFU 块,字节命中率大约翻倍,p99 查询延迟减半(@turbopuffer)。

    • Harness 适配器:在 LFM2.5-24B-A2B 上通过 LoRA RL 训练的适配器,在 pi harness 中以少 39% 的工具调用达到基础模型的准确率。在一个 GPU 上耗时约 24 小时(@nathanhabib1011)。

  • Anthropic 的 Rust 重写:Claude 在一个没有 Rust 开发者的团队中用 Rust 重写了 Messages API。人类编写了计划,并检查新旧输出在真实流量上是否匹配,CPU 使用率下降了 40–50%(@somi_ai)。

  • Project Suncatcher:10 月初发射的四块 TPU 在轨道上启动,运行了一个提示并返回了一首俳句(@sundarpichai)。

    • 模型:工作负载为 Gemma 4(@osanseviero)。

    • 下一阶段:2027 年,两颗卫星将测试分布式计算(@Google)。

行业与政策

  • Anthropic IPO 申请:Anthropic 已提交 S-1 文件,拟以股票代码“ANT”在纳斯达克上市(@dl_weekly)。

    • 披露的财务数据:2026 年上半年营收为 163 亿美元,高于去年同期的 12 亿美元。算力支出占营收的比例从约 6.5 倍降至约 0.5 倍(摘要)。

  • Intel 财报与内存挤压:第四季度营收指引为 150–160 亿美元,而市场预期约为 171 亿美元;毛利率指引从 44.1% 下调至 38%(分析)。

    • 优势:数据中心与 AI 业务营收增长约 80%,达到 73 亿美元,但供应受限的状况将持续到 2027 年上半年。

    • 劣势:代工业务亏损 19 亿美元。管理层预计,由于 AI 需求推高内存成本,PC 市场将在 2026 年萎缩约 12%,2027 年萎缩 10%。

    • 关于 DRAM 的评论:Sam Altman 称,DRAM 被装在个人设备里而不是数据中心里,这“很糟糕”(IGN)。

  • Marvell–Lumentum(据报道):据报道,Marvell 正就收购 Lumentum 进行深入谈判,这是一项在光连接领域的垂直整合举措(@vikramskr)。

  • Cohere 在加拿大:Cohere 计划到 2031 年投资超过 40 亿加元用于研发和 AI 基础设施,并创造超过 1,500 个就业岗位(@cohere)。

  • 网络流量与监管:

    • Reddit 与 AI 搜索:Reddit 的 CEO 表示,Google 的 AI Mode“不带来流量”。10 月份,来自搜索的引荐流量每周下降超过 100 万次,Reddit 正在推动用户登录后访问(@kimmonismus)。

    • 法国数据税:法国国民议会支持对服务商向法国用户发送的数据征收每 GB 0.055 欧元的税(@kimmonismus)。

热门推文(按互动量)


AI Reddit 摘要

/r/LocalLlama + /r/localLLM 摘要

1. Mistral Large 4 与 Qwen4 开放权重发布

  • mistralai/Mistral-Large-4-1T-A52B · Hugging Face(活动数:483):Mistral Large 4 “Le Chonk” 是一款全新的开放权重约1T总参数 / 约52B激活参数的原生多模态 MoE 模型(128个路由专家,每 token 4个激活专家 + 1个共享专家),具备1M上下文、文本+图像输入、Pixtral 风格视觉编码器、可配置推理强度、函数调用、严格 JSON/schema 输出,并声称精通 160+ 种语言(HF、博客)。该帖链接了多个 GGUF 发行版,包括 ggml-org GGUF、NVFP4 GGUF 和 Unsloth GGUF;llama.cpp 支持已通过 PR #31376 合并。Mistral 依据其 Mistral Ecosystem Open-Weight License 发布该模型,允许商业/非商业使用,但以 Model-as-a-Service 方式运营需要单独授权。评论者对其实际本地部署持怀疑态度,因为其体量巨大——有人开玩笑说要在“2077 年”才能跑起来——还有人认为它在本地 AI 方面与 DS4.1 相比没有竞争力,称后者更小、更快、更聪明。另一条评论则关注 Unsloth UD 量化镜像/变体,暗示对更激进的量化本地服务路径感兴趣。

    • 多位评论者认为 Mistral-Large-4-1T-A52B 在技术上很有意思,但由于规模原因不适合本地推理:模型名暗示这是一个1T总参数的 MoE,具有 A52B 个激活参数,即使量化后仍需要大量显存。一位评论者认为,与 DS4.1 相比,它“在本地 AI 方面没有竞争力”,并称后者更小、更快、能力更强。

    • 有人关心该模型是否会获得 Unsloth UD 量化版本,这表明用户正在寻找更激进的量化格式,以便在消费级或准专业硬件上更可行地进行推理。讨论暗示,如果没有优化的量化和运行时支持,该模型的规模会限制其实际采用,尽管它是开放权重的。

    • 一位评论者质疑 Mistral 缺少什么“秘方”,指出虽然 Mistral 相对开放、可能审查较少的权重受到重视,但其近期模型被认为未能登顶基准排行榜。技术上的担忧与其说是可及性,不如说是为什么 Mistral 模型在实测能力上似乎落后于前沿开放模型。

  • 云栖大会:Qwen4 下周发布(活动数:3189):该图片是来自阿姆斯特丹云栖大会的会议照片/推文,表明阿里云 Qwen4 系列“即将推出”,并引用了 CTO 的时间线“下周”。幻灯片列出了明显的 SKU,包括 Qwen4-Max、Qwen4-Flash、Qwen4-Plus 和 Qwen4-27B,暗示将进行多层级发布,涵盖旗舰、更快/更便宜、Plus 以及中等规模稠密模型变体。图片评论者大多在期待 Qwen4 是否能保持强大的编程/网络安全能力,一些人希望它能减少对 Claude 的依赖;一位评论者怀旧地提到了之前的 35B Qwen 模型。

    • 从技术角度看,相关讨论较为零散,但评论者主要关注 Qwen4 是否会保留可能涉及安全敏感的网络安全能力,而不是被大量拒答微调或“阉割”。此外,人们也对模型规模和架构感兴趣,提到了可能存在的 27B稠密模型,并对之前的 35B Qwen 级模型表示怀念,这表明关注点在于中等规模的稠密检查点,而不仅仅是旗舰级 MoE 规模的发布。

2. GGUF 量化与微调模型基准测试

  • 推出 DeepSeek-V4.1-Flash-1017 Dynamic v3.1 Unsloth GGUF(活动:534):该图片是一张 Unsloth 技术信息图,并非梗图,宣布推出 适用于 DeepSeek-V4.1-Flash-1017 的 Dynamic v3.1 GGUF。它直观展示了 Unsloth 的说法:在相近规模下,其 Dynamic v3.1 量化版本比 ISTA GSQ-RCO 保留更高的基准测试准确率,报告结果包括 UD-IQ1_M 在 250.4 GB 下六项基准平均得分 85.55,而 GSQ-RCO IQ1_M 在 231.3 GB 下得分为 81.78;该帖子还声称无法复现 GSQ-RCO 的 AIME25 恢复结果,其 IQ1_M 结果仅测得约 91.88%。信息图的硬件部分说明了部署背景:这些 DeepSeek GGUF 面向本地推理,1-bit 变体大约需要 128–145 GB 内存/统一内存,8-bit 最高约需 315 GB,帖子指出可通过 engram 卸载实现 64 GB 运行,并在 Unsloth 的 基准测试文档中链接了完整方法。评论大多持接受态度,但对基准测试的可复现性和方差表示怀疑/好奇:一位评论者强调 16 次 AIME 运行使这些说法更可信,同时询问为什么 Q2_K_XL 在 AIME 上略胜 Q8_K_XL,暗示可能存在运行方差或量化效应。Unsloth 回应称,他们为公平比较对 GSQ-RCO 分数进行了归一化,并公布了方法,以便他人重新运行测试。

    • Unsloth 报告称,在测试并归一化分数进行比较后,他们无法复现 GSQ-RCO 的基准测试数据。他们引导读者查看已发布的可复现性细节以及 DeepSeek-V4.1-Flash 基准测试的完整方法,见 unsloth.ai/docs/models/deepseek-v4.1-flash#full-benchmarking-methodologies。

    • 一位评论者强调,Unsloth 的动态量化说法现在有了更强的实证支持,特别提到了 16 次 AIME 运行以及使用 KLD 作为保真度指标,其解读是接近零的 KLD 意味着行为非常接近原始模型。他们还指出一个有趣的结果:量化模型可能产生更长的推理轨迹,这可能是在补偿精度降低。

    • 人们对所报告的部署范围有技术兴趣:本地使用需要 128 GB 内存,ngram/卸载可支持 64 GB 系统,并声称 DeepSeek-V4.1 推理比其他 CPU/VRAM/ngram 仓库快约 3x。提出的一个未解问题是,为什么 Q2_K_XL 在 AIME 上优于 Q8,评论者询问这是基准测试方差还是真实的量化诱发效应。

  • Gemma-4-31B-Humanlike-Chat:2.0 在官方 Gemma 4 31B 上改进的拟人语音(活动:369):LessThanThreeAI 发布了 Gemma-4-31B-Humanlike-Chat,这是对 google/gemma-4-31B-it 的微调版本,在 1× H200 上通过 13,740 行 SFT 以及 12 步 on-policy 蒸馏训练而成,使用了两位教师模型:一位 SFT“人类发短信”教师,以及用于指令/工具/代码的原始 Google 模型。与基础 Gemma 4 31B 相比,报告的评测显示工具使用拒绝/选择能力和指令行为有所改善,且 MMLU-Pro 没有下降:When2Call 46→66,BFCL 无关性 81→90,BFCL 简单 95→96,MMLU-Pro 保持不变为 82.5;与之前基于 Qwen 的 2.0 模型相比,报告显示 LiveCodeBench 51→66、IFEval 83.4→90.0、When2Call 58→66 和 BFCL 无关性 78→90 更高。该发布包含 GGUF 量化、BF16 safetensors、FP8、GPTQ-Int4 以及一个 浏览器演示;其“拟人化”盲测下一条消息测试声称,评判者在 26% 的情况下将该模型的回复选为真实人类消息,而基础 Gemma 为 0%。热门技术讨论质疑一个针对模仿非正式短信而优化的模型的目标用例,一位评论者认为其中大部分行为或许可以通过详细的系统提示来近似实现,指定小写、简短、大量俚语的 Discord/iMessage 风格。另一位评论者指出,“询问而非猜测”的行为对语音/TTS 助手可能有价值,不过他们也暗示该模型在简单语境下仍可能产生简短或生硬极简的回复。

    • 一位评论者认为,所声称的“拟人化聊天”行为或许可以通过足够详细的系统提示实现,而非专门模型,并提供了一段长提示,约束大小写、标点、俚语、表情符号使用、拒绝风格和人格持续性。该提示明确禁止类似助手的行为,例如“作为 AI……”、“今天我能帮你什么?”、markdown、列表和正式语法,表明讨论部分围绕用于风格迁移的提示工程 vs. 微调展开。

    • 提出的一个技术担忧是对幻觉/工具使用行为的评估:一位用户报告称,仅经过几次聊天后,模型就开始编造日历功能和虚构的短信交互,包括声称它可以给某人发短信并返回对方所谓的回复。他们将其与基础 Gemma 4 31B 对比,称基础模型没有表现出相同行为,暗示聊天/人格调优可能降低了 grounding 或增加了角色扮演驱动的编造。

    • 几位评论者询问训练数据集和方法论的细节,包括数据集能否开源或至少加以描述。这很相关,因为该模型的“人类声音”可能来自精选对话数据、合成风格示例或类似提示的监督微调,而幻觉报告使得数据集构成和安全过滤对可复现性很重要。

  • 发布:Swift 1.5 Flash Next - Heretic v2 - ReverseEngineer(活动:373):该图片是 Swift-1.5-Flash-Next-Heretic-ReverseEngineer 的终端风格发布横幅,这是一个未经审查的 Qwen/Swift 1.5 Flash Next 125B MoE GGUF 量化版本,针对逆向工程工作负载优化,帖子声称“V2 heretic 权重”,imatrix-fused 70/30,以及一个 96 GB VRAM fit(图片)。该发布强调了一个自定义重要性矩阵,覆盖 837 条目 / 399,876 token,为逆向工程和“无拒绝”领域增加了约 43k token,比特分配偏向于思维链、系统提示遵循、架构/编码、工具使用以及逆向工程任务,如 x86-64/ARM64 反汇编、Ghidra 批评、ELF/PE/Mach-O 内部结构、反调试、Frida/eBPF 跟踪、固件分析和去虚拟化。量化被描述为激活感知:后层下投影、层 36–47、选定的早期/中期尖峰、层 0 注意力门、层 2 以及路由器根据激活能量/KL 敏感性发现以更高精度/全精度保留。评论者持积极态度,但关注部署权衡:一位要求一个面向 128GB 的量化版本,高于 5 bpw,带有 90–100GB 骨干,外加单独的 8 位 n-gram/engram 分片用于 SSD 卸载,而另一位指出 Flash Next 许可证可能阻止官方 Swift API 提供。

    • 一位用户请求了一个面向 128GB 的量化目标:>5 bpw、约 90–100GB 骨干,以及打包为单独分片的 8 位 engram,以便更容易进行 SSD 卸载。这表明对针对高 VRAM 消费级/准专业系统的部署配置感兴趣,同时保持辅助内存结构可分离以便存储层级放置。

    • Swift 团队评论说,如果 Flash Next 许可证允许,他们可能会围绕 Flash Next 构建一个 API,这意味着许可证目前是下游托管/API 集成的障碍,而非技术限制。

    • 有一个关于如何使用 strata 组件的实际实现问题,具体是它们是否应该简单地解压到 strata 文件夹中。这表明该发布可能需要为其多组件模型布局提供更清晰的安装/加载说明。

3. 本地多模态与浏览器推理工具

  • 我做了一个分布式聊天机器人,在消费级 GPU 上跨设备运行 27B 模型,完全在浏览器中(开源)(活动:342):该帖子介绍了 ClusterChat,一个仅运行于浏览器的开源分布式 LLM 运行时,它按 transformer 块范围将模型分片到多块消费级 GPU 上,使用 WebGPU 进行推理、WebRTC 进行节点协调与数据传输。作者报告在 RTX 3090 + GTX 1070 Ti 上运行 Qwen3.8-27B q8,并在两台远程 3090 上以 28 ms 延迟对比两台本地 3090 上的 ~20 tok/s 对 ~8.1 tok/s 进行了基准测试,暗示网络延迟/带宽是主要瓶颈。图片是一张技术说明/示意图,展示一个 27 GB 模型分布在四名用户通过浏览器连接的设备上,分别贡献 3 GB、12 GB、8 GB 和 10 GB 的 GPU 显存:GIF。评论者对私有、点对点托管的 LLM 集群的可行性印象深刻,其中一人称其可能具有“革命性”,另一人则表示自己此前被告知不值得追求而放弃了这个想法。还有推测性讨论认为,这种分布式冗余是否类似于未来 AGI 可能抵抗中心化关停的方式。

    • 评论者强调了将不同机器/位置的消费级 GPU 聚合为私有推理集群的实际意义,特别指出两台中端 GPU 电脑实际上可以近似一台更大的机器用于本地模型服务。该项目提供了可运行的实现而非仅仅是概念,公开演示位于 clusterchat.io/chat,私有集群创建位于 clusterchat.io/create,源代码位于 GitHub。

  • Kokoro 现在只需约 600 MB 额外显存就能克隆任意声音!(活动:344):该帖子描述了 audio.cpp 中的一种 any-tts 方案,将 Kokoro TTS 与 OpenVoice 可独立运行的 ToneColorConverter 串联,从而无需重新训练即可为任意 TTS 模型添加基于声音转换的克隆能力。报告的开销约为 ~600 MB 额外峰值显存、~10% CUDA 减速,以及约为 0.5× 原始 CPU 速度,同时仍能达到约 2× 实时;在合成参考音频上的 CAM++ 说话人相似度分数报告在 0.7–0.8 范围内,不过质量在很大程度上取决于所选的内置 Kokoro 声音,例如 am_michael 得分为 0.4,而 am_adam 在同一参考音频上达到 0.7。链接的 Reddit 视频无法独立审查,因为 Reddit 返回了 403 Forbidden。高赞评论对演示的声音相似度表示怀疑,称样本听起来不像所暗示的 Al Pacino 或 Morgan Freeman 等具名说话人。因此主要争论不在于流程机制,而在于尽管报告了 CAM++ 分数,所展示的转换在感知上是否令人信服。

    • 多位评论者根据提供的样本报告称,所宣传的声音克隆质量很差:标记为 Pacino/Morgan 的声音据称在感知上不像 Al Pacino 或 Morgan Freeman。一位用户认为,即使嵌入或“声音签名”指标显示相似,生成的音频也无法通过更重要的人类听觉测试。

    • 一位 Kokoro 用户表示,这对该模型来说是一个较弱的用例:虽然 Kokoro 擅长其既定的 TTS 任务,但如果所展示的克隆质量代表最佳情况下的输出,那么它并不具备竞争力。他们建议使用专门面向克隆的系统,例如 Pocket TTS,而不是让 Kokoro 适配这一工作流。

  • 我们是 MOSS,MOSS-Image、MOSS-TTS 等背后的团队——欢迎向我们提问!(活动:586):MOSS/OpenMOSS 宣布举办一场 AMA,介绍其覆盖图像、语音/音频和视频的多模态模型家族,包括 MOSS-Image,这是一个文生图模型,采用 5B DiT 主干、中英文文本渲染、JSON 布局控制,并提供 Apache-2.0 基础/SFT 权重及推理代码。帖子还列举了已发布的语音/音频模型,如 MOSS-TTS、MOSS-TTSD、MOSS-TTS-Realtime、MOSS-TTS-Nano-100M,音频理解模型如 MOSS-Audio-8B-Instruct,以及视觉/视频模型,包括 MOSS-VL、MOSS-VL-Realtime 和 MOVA。该团队称 MOSS-Image 的 ComfyUI 版本已达到 3,702,490 次下载,并将更广泛的研究议程定位为围绕随时间同步的多模态感知/生成。 技术方面的请求几乎全部集中在路线图缺口上:多位评论者要求推出 MOSS-Image-Edit 模型,还有一位要求未来推出 MOSS-TTS 2,具备可控的行内表达/韵律标签,以及能够捕捉参考音频语调的音频频谱/tokenizer 机制。

    • 多位评论者询问 MOSS 是否计划发布图像编辑模型,具体名为“Moss Image Edit”。一项技术细节丰富的请求要求实现多图像编辑和基于 JSON 的编辑,暗示对结构化编辑指令和多参考工作流的兴趣。

    • 多位用户要求进一步开发 MOSS-TTS,包括提议推出“MOSS-TTS 2”,具备用于表达/风格控制的可控行内标签。一位评论者还要求提供能够理解参考音频语调的音频频谱 tokenizer,暗示参考引导的韵律迁移或更丰富的声学条件控制。

    • 有人关注 MOSS 是否会继续从图像生成扩展到音频和视频模型,包括未来音效/音频相关发布以及可能的新视频模型。一位用户还询问目前哪个 MOSS 项目被低估,并指出尽管项目组合更广泛,许多社区成员可能只知道 MOSS-Image。

非技术类 AI Subreddit 回顾

/r/Singularity、/r/Oobabooga、/r/MachineLearning、/r/OpenAI、/r/ClaudeAI、/r/StableDiffusion、/r/ChatGPT、/r/ChatGPTCoding、/r/aivideo、/r/aivideo

1. Claude 政策:水印、游戏复刻护栏、Ultra 限制

  • Claude 现在会为它写的所有内容添加水印,而无法核查的人正是你(活跃度:2354):该帖称,Anthropic 正将 Claude 的隐形统计文本水印在全球范围内扩展,起始于 Nov 3,覆盖 Mythos 5、Opus 4.7/4.6 和 Sonnet 4.6,而自 8 月起的新模型已涵盖在内,依据是 Anthropic 关于 Claude 内容标记 的帮助页面。核心技术担忧在于,水印可能不仅适用于完全生成的文本,也适用于 Claude 辅助的校对/翻译,而检测权限仅限于选定的监管机构、媒体、研究人员、教育机构和合规要求高的企业——不包括最终用户——这造成了可验证性的不对称和潜在的误归因。该帖还认为该方案很脆弱,因为词汇/统计水印可以通过用另一个模型改写来去除,并且可能被第三方检测器通过水印窃取攻击学习到。评论者对 AI 检测的可靠性持怀疑态度:一人报告称一篇 6 年前写的硕士论文被归类为 56% 可能由 AI 撰写,将此作为可能存在误报和伤害的证据。另一人提出了隐私/安全的区分:表明“由 Claude 制作”的水印或许可以接受,但编码用户特定来源信息,例如“为用户 ID 12345 制作”,则是不可接受的。

    • 一位评论者报告了对 AI 检测系统的一个具体误报担忧:一篇写于6 年前的硕士论文据称被归类为 56% 可能由 AI 撰写,这表明水印/检测工作流可能将 LLM 之前的人类文本错误标记,并且如果被当作证据而非弱信号,会造成机构性伤害。

    • 提出的一个技术/隐私区分是,水印是仅编码类似“由 Claude 制作”的来源信息,还是编码类似“为用户 ID 12345 制作”的用户特定归属信息。前者是通用的内容来源标记;后者若下游方或 Anthropic 能将生成的文本与个人账户关联,则会带来可追溯性和隐私风险。

    • 一位评论者质疑水印在最小编辑场景下的表现:他们称 Claude Opus 5.5 编辑了一封邮件,但只改了一个句号和两个词。这引出了一个实现上的边缘情况:水印是适用于任何模型介导编辑后的完整输出,还是仅适用于新生成的片段,或者当模型的贡献非常小时会在统计上变得不可靠。

  • Anthropic 要开始封禁游戏复刻了?(活跃度:1688):该图片(链接)是一张 X 帖子的截图,声称 Anthropic/Claude Code 添加了一个服务端策略标志 tengu_heron_brook,用于阻止复刻特定现有电子游戏的提示词,即使用户更改名称或要求克隆。据称高亮的 .claude.json 风格配置文本允许“原创游戏”或受类型启发的项目,但不允许对具名作品的紧密复刻,这表明是在编码代理层进行版权/知识产权风险缓解,而非模型能力限制。评论者将此视为临时限制,因为存在替代性和开源的编码模型;一人认为足够强大的开源模型将使游戏克隆/模组难以监管,并可能导致私下传播的侵权游戏。

    • 一些评论者认为,如果 Anthropic/Claude 通过执行 ToS 来限制游戏复刻或模组工作流,开发者将转向可在本地运行或自托管、无需集中式策略门控的开放权重模型。技术上更相关的点与其说是游戏本身,不如说是模型部署控制:封闭的托管 API 可以选择性屏蔽某些提示类别,而开放权重系统则让执行取决于用户的运行时、微调和分发渠道。

    • 有一个讨论串将这一问题视为开放权重模型为何重要的例证,即避免单一供应商对 AI 辅助软件生成的控制。评论者推断,用于阻止游戏克隆的同一机制可以应用于其他领域——例如药物发现、教育或竞争性软件产品——这凸显了集中式 API 审核与本地执行模型之间的架构差异。

  • Anthropic 将 Max5 和 Max20 更名,并取消 Max20 的 5 小时限制(活动:1665):该图片 显示 Anthropic/Claude 对其订阅层级进行更名:“Max 5x” → “Max”,位于 $100/month;“Max 20x” → “Ultra”,位于 $200/month。技术上相关的变更是,经过验证的 Ultra 账户不再有 5 小时使用窗口限制,而每周限制保持不变;套餐图还将 Free、Pro、Max 和 Ultra 定位为当前 Claude 套餐阵容。评论者认为,取消 5 小时上限可能影响不大,因为每周上限才是重度用户的真正瓶颈。还有人对措辞感到困惑:一位评论者指出,“每周限制保持不变”似乎与“Ultra 每周包含 Pro 套餐 10 倍的使用量”相矛盾,引发担忧:旧的 20x 表述可能实际上已经改变。

    • 几位用户关注被取消的 5h 窗口与仍然存在的每周使用上限之间的区别:一位 Max20/$200 订阅者表示,5 小时上限在实践中实际上无关紧要,而每周限制则总是被耗尽。这表明,如果每周配额仍是约束性限制,更名/取消可能不会实质性提升重度用户的吞吐量。

    • 一个关键的技术担忧是 Anthropic 是否降低了有效分配:评论者指出,“每周限制保持不变”的措辞似乎与“Ultra 每周包含 10x Pro 套餐的使用量”不一致,因为旧命名暗示了 20x。用户将此解读为要么 Max20 的相对配额可能被悄然减半,要么是放弃公布明确的倍数基准。

    • 另一个实质性观点是,取消明确的 5x/20x 标签使未来的配额变化更难审计。评论者认为,如果没有与 Pro 使用量挂钩的可见缩放标记,Anthropic 可以在保留相同套餐名称的同时,日后降低有效使用比率,使配额回退对订阅者而言更不透明。

2. 开源 AI 构建与法律阻力

  • 我们用 Claude 让一个完整的 PS2 模拟器在浏览器标签页中运行起来:TabStationToo(活动数:1798):TabStationToo 是一个实验性的基于浏览器的 PS2 模拟器,基于 PCSX2 的 GPL-3.0 核心构建,通过浏览器文件系统在本地选择 BIOS/光盘镜像,无需上传;演示和代码可在 tabstationtoo.github.io 和 GitHub 获取。作者表示,Claude Opus 5.5 在 CLAUDE.md/AGENTS.md 中的仓库规则下生成了大部分实现,包括无头测试/基准测试框架、替代 PCSX2 原生代码 JIT 路径的 PS2 到 WebAssembly 运行时翻译器、针对 PCSX2 的正确性检查,以及渲染器的 WebGPU 移植。测试过的游戏包括 Guitar Hero、GTA San Andreas、Final Fantasy XII、DBZ Budokai Tenkaichi 3、Naruto Shippuden: Ultimate Ninja 5 和 Resident Evil 4,主要在 M1 Max Mac 和 Ryzen 7 7840U Linux 系统上测试,据报道许多游戏接近全速,但复杂场景仍然较慢。评论大多表示它在实践中确实可用:一位用户称 PS5 手柄无需映射即可使用,且在 King of Fighters 2002 中没有明显输入延迟,另一位用户则报告在玩 Ring of Red。主要的非技术性反应是对在浏览器标签页中运行 PS2 模拟的可行性/性能影响感到惊讶。

    • 一位用户报告称,TabStationToo 可与 PS5 手柄配合使用,无需手动映射,成功在浏览器中运行 King of Fighters 2002,且目前观察到“没有输入延迟”。这对于浏览器游戏手柄输入和延迟行为来说是一个有用的兼容性数据点。

  • Higgsfield 因开源挑战赛威胁起诉 ComfyUI(活动数:1442):ComfyUI 表示,Higgsfield 就其“Open Source Higgsfield”挑战赛发出了停止侵权函,该挑战赛要求构建者将流行的闭源生成式视频/应用工作流重建为开放、可运行的 ComfyUI 工作流。ComfyUI 声称该活动明显无关联,并表示在法律审查后将继续保持挑战赛在线;一位高赞评论者指出,据称该信函中列明的诉求比全面下架要窄:停止使用 Higgsfield 标志/徽标、将其从一段视频中移除,并保留相关文件。评论者意见分歧:一些人认为此举是保护 Higgsfield 订阅产品的反竞争压力,另一些人则认同使用该公司名称/徽标可能确实会造成商标混淆风险,即使开源批评在实质上公平合理。

    • 一位评论者分析该要求函后认为,它似乎并未要求将整个 Open Source Challenge 下架,而是要求 ComfyUI 停止使用 Higgsfield 标志/徽标、将其从一段视频中移除,并保留相关文件。他们还指出,链接页面可能已经移除了争议标志,这表明可诉的商标问题可能仅限于品牌标识,而非挑战赛本身。

    • 另一位评论者认为混淆投诉可能成立,因为在挑战赛名称中使用“Higgsfield”可能暗示关联或背书。建议的缓解措施是重命名比赛并避免使用商标品牌,同时仍允许讨论或比较工作流/模型。

3. Gemini 4 Carbon 基准测试领先与 AI 竞赛支出

  • Gemini 4 Carbon 排名第一,Elon 向 Demis 表示祝贺(活动:1433):该图片是一张 X 帖子的截图,Demis Hassabis 在帖子中展示了一张 Artificial Analysis Intelligence Index 图表,显示“Gemini 4 Carbon”排名第一,Elon Musk 回复道,“干得好!什么时候可以访问?”帖子中没有提供具体的基准测试分数、模型卡细节、发布日期、API 可用性或方法论,因此其技术意义仅限于声称的排行榜名次,而非可验证的模型性能数据。评论大多将 Musk 的回复视为钓鱼或战略性兴趣,开玩笑说他想获得访问权限以便将其蒸馏进 Grok。其他人则将排名/访问问题视为反复出现的前沿模型周期的一部分——在公开可用之前,另一个实验室可能就会超越它。

  • “所以 Larry Page 显然在 Google 内部说过很多次,‘我宁愿破产也不愿输掉这场竞赛。’所以每个人都在真正关注这个 ROI 等式,但做决策的人并不关注”——x.com/GavinSBaker 在 ILTB 上(活动:1569):一条X 帖子引用 Gavin Baker 的话称,Larry Page 已在 Google 内部表示,他“宁愿破产也不愿输掉”AI 竞赛,暗示超大规模云厂商的 AI 资本支出可能由战略/生存定位驱动,而非近期 ROI。该讨论串将此与 Page 长期以来的观点联系起来——即 AI 是 Google 使命的核心(据报道他在 2000 年曾表示 AI 将是 Google 的终极版本)——并与历史上 Musk/Page 的分歧联系起来,这一分歧促成了 OpenAI 的创立。评论者大多通过超人类主义/后人类主义的视角来解读 Page 的立场:他们声称他将超级智能 AI、意识上传和自主机器智能视为生物人类的继任者,使得 AI 竞争实际上成为“生死攸关”之事,而非普通的投资决策。其他人则将 AI 竞赛描述为“最后一场竞赛”,从而为即使 ROI 模型看起来不利也要进行极端支出提供了理由。

    • 几位评论者将Larry Page 愿意承受极端损失归因于与其说是近期 ROI,不如说是一个长期的 AGI/超人类主义论点:AI 作为“Google 的终极版本”、潜在的意识上传,以及机器智能作为人类的继任者。技术上相关的含义是,资本配置可能由感知到的生存性上行空间驱动——AGI、自主超级智能和后生物智能——而非传统的云/AI 产品经济学。

    • 一个实质性的治理讨论串将Page 据称对自主超级智能系统的偏好与Elon Musk 所宣称的将人类保持在控制之中的偏好进行了对比,并将这一分歧与OpenAI 的创立动机联系起来。讨论凸显了一个核心的对齐/控制分歧:先进 AI 最终应被约束为人类工具,还是应被允许作为继任智能体做出独立决策。

    • 一位评论者反驳了自GPT-4以来AI进展放缓这一前提,认为该说法“错误”,但未提供基准证据。技术上相关的要点是,参与者争论的是,GPT-4之后的进展应通过前沿基准提升、产品化、智能体能力还是基础设施扩展来评估,而非宽泛印象。

来源:Latent Space · latent.space