热点事件持续更新
得物分享昇腾910C大模型推理优化实践
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月21日,得物技术团队发布文章,介绍其在昇腾910C-560t上对Qwen3.5-35B-A3B模型开展在线推理优化的实践。团队通过将vllm-ascend升级至0.23.0版本,并调整HCCL通信与内存分配等参数,使并发为1时的TPOT从14.22ms降至7.8ms,降幅达45.1%。报道称整体推理提速40%。目前该优化实践已通过技术文章对外披露,尚未见其他信源交叉验证或后续更新。
AI 根据报道生成 · 2 小时前更新
最新进展10月21日 18:30
得物技术披露昇腾910C推理优化:TPOT由14.22ms降至7.8ms,降幅45.1%。报道时间线
沿着报道,了解事件的不同侧面。
10月21日
- 得物技术得物技术分享昇腾 910C 大模型推理优化:镜像与参数调优提速 40%
得物技术团队在昇腾 910C-560t 上对 Qwen3.5-35B-A3B 做在线推理优化,通过升级 vllm-ascend 至 0.23.0、调整 HCCL 与内存分配等参数,c=1 的 TPOT 从 14.22ms 降至 7.8ms,下降 45.1%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。