跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

82 条精选近 30 天 74 条共收录 798 条

更新

精选归档 · 第 5 页

8月26日周三第 81–82 条
  1. Andrew Ng60

    Andrew Ng 的 OpenWorker 发布新版本,内置代码漏洞与供应链安全智能体

    Andrew Ng 宣布开源智能体 OpenWorker 发布新版本,新增面向安全流程的多项功能。新版本内置三类网络安全智能体,分别扫描代码漏洞、扫描依赖中的供应链注入,以及检查云安全配置的攻击面,让开发者在部署前完成更多安全工作。

    推荐理由:OpenWorker 新版本把安全扫描能力做成内置智能体,并说明开源 harness 可审计、模型可自选,读者可据此判断本地安全智能体的落地方式。

7月29日周三
  1. Berkeley AI Research62

    从 CUDA 到 MLX:K-Search 如何把内核优化经验带到 Apple Silicon

    Berkeley Sky Lab 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX,通过结构化 CUDA-to-MLX 翻译层把已有 CUDA 内核当作知识库,在 Apple Silicon 上生成高质量内核。

    推荐理由:读者可看到 CUDA 内核经验如何被结构化迁移到 Apple Silicon,以及翻译层对性能差距的具体贡献。