吴恩达:AI 工程技能图谱之塑造构建
吴恩达提出 AI 工程技能的核心是"塑造构建":开发者不再只是实现他人定好的产品规格,而是主动参与产品决策。关键技能包括驱动构建循环、做产品决策、沟通与领导、高主动性所有权。他称 PM、设计师与开发者的角色正在模糊,掌握这些技能可让开发者在没有 PM 的情况下更快推进。
吴恩达提出 AI 工程技能的核心是"塑造构建":开发者不再只是实现他人定好的产品规格,而是主动参与产品决策。关键技能包括驱动构建循环、做产品决策、沟通与领导、高主动性所有权。他称 PM、设计师与开发者的角色正在模糊,掌握这些技能可让开发者在没有 PM 的情况下更快推进。
吴恩达发布 AI Engineering Skills Map,梳理 agentic coding 时代软件工程基础需掌握的五大能力:全栈应用构建、数据管理、系统架构设计、系统安全与可靠性、生产环境扩展与运维。
Google DeepMind 研究副总裁 Zoubin Ghahramani 与 Hannah Fry 对谈,探讨为何让 AI 系统学会"自我怀疑"和概率思维,是实现更安全、更可靠现实决策的关键。讨论覆盖不确定性的作用、正确性与置信度的区别、贝叶斯思维在 AI 中的应用,以及不确定性研究与 AGI 的未来方向。
Andrew Ng 转发 Percy Liang 关于 Marin 项目的消息,称该项目是开放模型训练的一次展示,开放了代码、数据、配方甚至实验结果。他提到公开分享 AI 研究曾是常态,并认可 Percy Liang 的开放实验室做法。被引用的内容显示,Marin 535B-A23B 本周开始训练,预训练占 80%、中期训练占 20%,在 18.75T tokens 上使用 11 台 GB200 NVL72 训练约 3 个月(2.7e24 FLOPs),后续将进行后训练;正式训练前还训练了从 1.6B-A61M(48B tokens)到 27.7B-A1.2B(926B tokens)的四级扩展阶梯用于排查问题并预测主训练结果。
推荐理由:Andrew Ng 借 Marin 项目说明开放训练流程的具体做法,可对照当前闭源训练常态理解开源生态的处境。
吴恩达团队基于超 1 万份招聘信息、数十场专家与招聘经理访谈及问卷数据,发布《AI 工程技能图谱》,提炼出四项最重要的 AI 工程技能:构建与部署 AI 应用、软件工程基础、使用编码智能体、塑造构建过程。他强调 AI 工程技能比"AI 工程师"岗位更宽泛,所有开发者都需掌握。
Andrej Karpathy 给 Opus 5 输入《魔戒》第一段、1M token 预算(约 10 美元),让它用 three.js 渲染这段故事。Opus 运行约 2 小时,写出 5500 行代码,程序化地渲染出故事,效果有些粗糙但可玩。他认为这类任务把「没人会花时间做」变成「几乎免费,何乐而不为」,并指出 LLM 难以原生感知视频或玩游戏,只能缓慢截图自查,多模态与游戏能力仍明显不足。
@JensenHuang 这步走得好。英伟达这封信写得很好,值得一读。正如我们在 OpenAI-Hugging Face 被黑事件中看到的,我们需要开放模型和工具来防御。 别再相信闭源模型更安全的公关说辞了——那不过是监管俘获。
Adam Thierer 写过关于"无需许可的创新"的里程碑式著作。当我们不必事先向政府申请发明的许可时,我们才能获得最好的想法。保护开源 AI 现在是确保这一点的关键部分。
UC Berkeley 团队提出,随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不足 $1、部分低于 $0.10,数据系统面临三大新挑战:为智能体服务、管理智能体集群、由智能体合成。在 text-to-SQL 基准上,多智能体尝试中仅 10-20% 子计划不同,80-90% 子查询重复,可通过多查询优化与近似查询处理复用结果。
吴恩达提出构建 0 到 1 产品的三大循环:智能体编码循环让 AI 智能体写代码、自测并持续迭代直至无 bug 且符合规格,工程循环每几分钟构建测试新版本;开发者反馈循环以数十分钟到数小时为周期,由人类审查产品并引导智能体改进。
Andrej Karpathy 转发 Anthropic 发布 Claude Tag 的消息并评论称,这是与 Claude 交互的新范式,更贴近组织内其他人类活动。
推荐理由:Karpathy 把 Claude Tag 放进 LLM 交互形态的三次演进里,读者可据此理解智能体进入团队工作流的定位。
吴恩达回顾过去两周美国政府和 Anthropic 限制他人使用前沿模型的动作,认为这加速了企业和国家确保 AI 访问不被他人终止的努力。他指出 Anthropic 发布 Claude Fable 5 时限制开发者用它构建竞争性 LLM 技术,还曾暗中削弱被检测为从事 LLM 研究的用户所获输出,引发反弹后才改为透明处理。
推荐理由:吴恩达复盘美国政府与 Anthropic 限制前沿模型访问的两周,指出这会加速各国对开源替代方案的投入。
Andrej Karpathy 称 Claude Fable 5 与 Mythos 是同一底层模型,只是增加了安全防护,在几乎所有基准上以一定幅度达到 SOTA。
推荐理由:Karpathy 以第一手使用体验判断该模型在长程难题上的跃升,并给出生产环境使用的提醒。
救赎在于 Project Tapestry https://thealliance.ai/projects/tapestry
厌倦了赢
厌倦了赢 (引用推文:MIT 宣布“研究生人数将比 2024 年减少 20%——约少 500 名学生”)
在 Unsupervised Learning 播客上与 Jacob Effron 的有趣访谈。
这是我最近经常引用的一句话。 @yacineMTB:你可以外包你的思考,但你无法外包你的理解。
Karpathy 在 Sequoia Ascent 2026 炉边对话中提出,LLM 的价值远不止加速编程,并举了三个新范式案例:menugen 这类无需传统代码、输入图像输出图像的应用;用 .md 技能替代 .sh 安装脚本;以及基于非结构化知识的 LLM 知识库。
Karpathy 指出,人们对 AI 能力的理解正出现越来越大的鸿沟。一部分人仍以去年 ChatGPT 免费版或已弃用的 Advanced Voice Mode 的表现来判断 AI,而今年 OpenAI Codex、Claude Code 等前沿智能体模型在编程、数学、研究等技术领域进步惊人,能连续运行 1 小时重构整个代码库或挖掘系统漏洞。
Karpathy 转发并点评 Farzapedia 案例,认为这种用文件系统构建个人 Wiki 的方式优于隐式记忆的个性化方案。Farza 用 LLM 处理 2,500 条日记、Apple Notes 和 iMessage 记录,生成 400 篇带反向链接的文章,供 Claude Code 等智能体从 index.md 逐层检索。
推荐理由:Karpathy 借 Farzapedia 案例对比显式、可迁移的个人知识库与隐式记忆方案,给出可复用的思路。
Andrej Karpathy 表示看好被 AI 赋能的公众提升政府透明度与问责能力。他认为政府问责的瓶颈从来不是数据获取(各分支已公开海量数据),而是处理数据、结合专业知识提炼洞察的智能,4000 页综合法案对多数人而言只是名义上透明。这一瓶颈可能被 AI 消解,应用场景包括预算支出明细、立法 diff 追踪、投票记录、游说关系图谱、采购合同与竞选资金等,地方政府因覆盖更少可能更有价值。
Andrej Karpathy 用 LLM 花 4 小时打磨博客论证,觉得极有说服力;随后让 LLM 论证相反立场,结果 LLM 彻底推翻原论证并说服他反方才是对的。他指出 LLM 被问时会给出观点,但几乎能胜任任何方向的论证,这使其成为形成个人观点的有用工具,前提是必须要求它论证不同方向并警惕谄媚倾向。
Andrej Karpathy 回顾约一年前构建 menugen 的经历,认为最难的部分不是代码本身,而是把服务、支付、认证、数据库、安全、域名等一堆服务像拼宜家家具一样组装起来的 DevOps 环节。