SageMaker AI 推出训练会话 API

Amazon SageMaker AI 推出训练会话 API，把 forward_backward、optim_step、sample 等操作变成 API 调用，模型在托管 GPU 上保持加载，用户只需在本地 Python 进程里编写训练循环，无需自行管理 GPU。 按 AWS 说明，该 API 按处理的 token 计费，只对训练循环消耗的计算收费；例如奖励函数在本机评分期间不计 GPU 时间。运行中的会话会占用并发会话配额，直到调用 stop() 或会话过期，因此结束后需停止会话，包括出错路径，也可用 with 块打开客户端。支持的基础模型及各模型可用的 AWS 区域见训练会话 API 文档。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。