热点事件观察中
港科大与华为提出BalanceRoute推理负载均衡方案
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
2026年10月16日，机器之心报道，香港科技大学周子杰团队与华为2012实验室理论部联合提出BalanceRoute方案，针对大模型推理数据并行中的负载均衡瓶颈。该方案通过数学建模刻画数据并行解码过程中的跨组同步等待问题，并将短期负载预测转化为在线路由决策。报道称该方案使解码吞吐提升约15%。目前该工作处于方案提出阶段，尚无后续进展报道。
AI 根据报道生成 · 2 小时前更新
最新进展10月16日 11:23
港科大周子杰团队与华为2012实验室提出BalanceRoute，称解码吞吐提升约15%。报道时间线
沿着报道，了解事件的不同侧面。
10月16日
- 机器之心港科大与华为提出 BalanceRoute：破解大模型推理数据并行负载均衡瓶颈，解码吞吐提升约 15%
香港科技大学周子杰团队与华为 2012 实验室理论部联合提出 BalanceRoute，通过数学建模刻画数据并行解码中的跨组同步等待，将短期负载预测转化为在线路由决策。
本事件热度走势
当前热度 5·可比范围峰值 5（10月17日 11:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。