HyMT2Sharp 2.0 发布，新增 GPU 后端

纯 C# 推理库 HyMT2Sharp 2.0 发布，为腾讯混元翻译模型 Hy-MT2 新增 Vulkan 和 Metal 两个 GPU 后端。作者称在 RTX 3080 Ti 上，prefill 512 从 CPU 约 500 tok/s 提升到约 1.58 万 tok/s，比同机 llama.cpp CUDA 快 4%~18%。 2.0 把原来三个 NuGet 包合并为一个 Sdcb.HyMT2Sharp，模型权重也放上 NuGet，引用一个包即可运行，无需自行从 Hugging Face 下载 GGUF；旧的三个包将在 NuGet 上标记为弃用。仍可用 new HunyuanDenseModel(@"D:\models\xxx.gguf") 传文件路径的旧写法。作者称 Metal 后端只在虚拟机上测过。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。