跳到正文
  1. Andrew Ng62

    Andrew Ng 称 Marin 项目展示开放模型训练,含开放代码、数据与配方

    Andrew Ng 转发 Percy Liang 关于 Marin 项目的消息,称该项目是开放模型训练的一次展示,开放了代码、数据、配方甚至实验结果。他提到公开分享 AI 研究曾是常态,并认可 Percy Liang 的开放实验室做法。被引用的内容显示,Marin 535B-A23B 本周开始训练,预训练占 80%、中期训练占 20%,在 18.75T tokens 上使用 11 台 GB200 NVL72 训练约 3 个月(2.7e24 FLOPs),后续将进行后训练;正式训练前还训练了从 1.6B-A61M(48B tokens)到 27.7B-A1.2B(926B tokens)的四级扩展阶梯用于排查问题并预测主训练结果。

    推荐理由:Andrew Ng 借 Marin 项目说明开放训练流程的具体做法,可对照当前闭源训练常态理解开源生态的处境。

  1. Andrej Karpathy62

    Karpathy 评 Claude Tag:LLM 交互的第三次 UIUX 重构

    Andrej Karpathy 转发 Anthropic 发布 Claude Tag 的消息并评论称,这是与 Claude 交互的新范式,更贴近组织内其他人类活动。

    推荐理由:Karpathy 把 Claude Tag 放进 LLM 交互形态的三次演进里,读者可据此理解智能体进入团队工作流的定位。

  1. Andrew Ng72

    吴恩达评 Anthropic 与美国政府限制前沿模型访问

    吴恩达回顾过去两周美国政府和 Anthropic 限制他人使用前沿模型的动作,认为这加速了企业和国家确保 AI 访问不被他人终止的努力。他指出 Anthropic 发布 Claude Fable 5 时限制开发者用它构建竞争性 LLM 技术,还曾暗中削弱被检测为从事 LLM 研究的用户所获输出,引发反弹后才改为透明处理。

    推荐理由:吴恩达复盘美国政府与 Anthropic 限制前沿模型访问的两周,指出这会加速各国对开源替代方案的投入。

  1. Andrej Karpathy80

    Karpathy 评 Claude Fable 5:与 Mythos 同底模,加装安全防护

    Andrej Karpathy 称 Claude Fable 5 与 Mythos 是同一底层模型,只是增加了安全防护,在几乎所有基准上以一定幅度达到 SOTA。

    推荐理由:Karpathy 以第一手使用体验判断该模型在长程难题上的跃升,并给出生产环境使用的提醒。

  1. Andrej Karpathy62

    Karpathy 点评 Farzapedia:用文件系统构建个人 Wiki 知识库

    Karpathy 转发并点评 Farzapedia 案例,认为这种用文件系统构建个人 Wiki 的方式优于隐式记忆的个性化方案。Farza 用 LLM 处理 2,500 条日记、Apple Notes 和 iMessage 记录,生成 400 篇带反向链接的文章,供 Claude Code 等智能体从 index.md 逐层检索。

    推荐理由:Karpathy 借 Farzapedia 案例对比显式、可迁移的个人知识库与隐式记忆方案,给出可复用的思路。

已经到底了