从 CUDA 到 MLX:K-Search 如何把内核优化经验带到 Apple Silicon
Berkeley Sky Lab 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX,通过结构化 CUDA-to-MLX 翻译层把已有 CUDA 内核当作知识库,在 Apple Silicon 上生成高质量内核。
推荐理由:读者可看到 CUDA 内核经验如何被结构化迁移到 Apple Silicon,以及翻译层对性能差距的具体贡献。
技术方向
把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。
21 条精选近 30 天 18 条共收录 153 条
Berkeley Sky Lab 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX,通过结构化 CUDA-to-MLX 翻译层把已有 CUDA 内核当作知识库,在 Apple Silicon 上生成高质量内核。
推荐理由:读者可看到 CUDA 内核经验如何被结构化迁移到 Apple Silicon,以及翻译层对性能差距的具体贡献。