跳到正文
今天10月12日周一2 条
10月11日周日
10月10日周六
10月9日周五
8月24日周一
  1. Andrew Ng62

    Andrew Ng 称 Marin 项目展示开放模型训练,含开放代码、数据与配方

    Andrew Ng 转发 Percy Liang 关于 Marin 项目的消息,称该项目是开放模型训练的一次展示,开放了代码、数据、配方甚至实验结果。他提到公开分享 AI 研究曾是常态,并认可 Percy Liang 的开放实验室做法。被引用的内容显示,Marin 535B-A23B 本周开始训练,预训练占 80%、中期训练占 20%,在 18.75T tokens 上使用 11 台 GB200 NVL72 训练约 3 个月(2.7e24 FLOPs),后续将进行后训练;正式训练前还训练了从 1.6B-A61M(48B tokens)到 27.7B-A1.2B(926B tokens)的四级扩展阶梯用于排查问题并预测主训练结果。

    推荐理由:Andrew Ng 借 Marin 项目说明开放训练流程的具体做法,可对照当前闭源训练常态理解开源生态的处境。

8月15日周六
  1. Andrew Ng38

    吴恩达发布 AI 工程技能图谱

    吴恩达团队基于超 1 万份招聘信息、数十场专家与招聘经理访谈及问卷数据,发布《AI 工程技能图谱》,提炼出四项最重要的 AI 工程技能:构建与部署 AI 应用、软件工程基础、使用编码智能体、塑造构建过程。他强调 AI 工程技能比"AI 工程师"岗位更宽泛,所有开发者都需掌握。

7月7日周二
  1. Berkeley AI Research34

    智能免费之后怎么办?面向智能体、由智能体构建的数据系统

    UC Berkeley 团队提出,随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不足 $1、部分低于 $0.10,数据系统面临三大新挑战:为智能体服务、管理智能体集群、由智能体合成。在 text-to-SQL 基准上,多智能体尝试中仅 10-20% 子计划不同,80-90% 子查询重复,可通过多查询优化与近似查询处理复用结果。