跳到正文
热点事件持续更新

得物分享昇腾910C大模型推理优化实践

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

2026年10月21日,得物技术团队发布文章,介绍其在昇腾910C-560t上对Qwen3.5-35B-A3B模型开展在线推理优化的实践。团队通过将vllm-ascend升级至0.23.0版本,并调整HCCL通信与内存分配等参数,使并发为1时的TPOT从14.22ms降至7.8ms,降幅达45.1%。报道称整体推理提速40%。目前该优化实践已通过技术文章对外披露,尚未见其他信源交叉验证或后续更新。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. 得物技术
    得物技术分享昇腾 910C 大模型推理优化:镜像与参数调优提速 40%

    得物技术团队在昇腾 910C-560t 上对 Qwen3.5-35B-A3B 做在线推理优化,通过升级 vllm-ascend 至 0.23.0、调整 HCCL 与内存分配等参数,c=1 的 TPOT 从 14.22ms 降至 7.8ms,下降 45.1%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。