京东广告联合鲲鹏超节点,推理时延降15%
热点事件持续更新
京东广告联合鲲鹏超节点,推理时延降15%
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
京东广告联合华为鲲鹏超节点,通过灵衢(UnifiedBus)组网、KV Cache 两级缓存和 RPC 通信改造,将广告推理端到端时延降低15%,局部 KV Cache 重复计算降低80%—90%。 目前该方案仅覆盖核心业务场景5%的流量,并非全部搜广推业务都已迁至鲲鹏集群;京东广告称策略是让核心业务优先上新型集群。 京东广告称正推进“双十一”更大规模业务迁移,并将与华为探索 Agent 高密沙箱与 Agentic AI 方向。
AI 根据报道生成 · 41 分钟前更新
最新进展10月26日 20:19
京东广告联合鲲鹏超节点:端到端推理时延降低15%,探索生成式广告新路径报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- 钛媒体京东广告联合鲲鹏超节点:端到端推理时延降低15%,探索生成式广告新路径
京东广告联合华为鲲鹏超节点,通过灵衢(UnifiedBus)组网、KV Cache两级缓存和RPC通信改造,将广告推理端到端时延降低15%。方案在“618”大促中经受住考验,核心业务场景5%流量已在鲲鹏集群运行,局部KV Cache重复计算降低80%-90%。双方下一步将推进“双十一”更大规模业务迁移,并探索Agent高密沙箱与Agentic AI方向。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。