跳到正文
热点事件持续更新

商汤大装置日均Token服务量达6万亿

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

2026年10月19日,量子位报道商汤大装置平台日均Token服务量已达6万亿。报道称,商汤大装置预计2026年全年Token服务规模增长25倍、第四季度达到日均10万亿Token。技术层面,其以PD分离与异构混合调度构建万卡级异构推理集群,在相同数量高端旗舰卡条件下整体Token吞吐量可提升至原来的5倍;商汤大装置还在探索跨域PD分离与AF分离,后者有望带来单卡吞吐提升150%至200%、运营成本降低30%至40%。目前进展集中于推理效能提升与后续规模目标。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. 量子位
    日均6万亿Token服务背后,商汤大装置如何提升推理效能?

    商汤大装置平台日均Token服务量已达6万亿,预计2026年全年Token服务规模增长25倍、第四季度达到日均10万亿Token。其以PD分离与异构混合调度构建万卡级异构推理集群,在相同数量高端旗舰卡条件下整体Token吞吐量可提升至原来的5倍。商汤大装置还在探索跨域PD分离与AF分离,后者有望带来单卡吞吐提升150%至200%、运营成本降低30%至40%。

本事件热度走势

当前热度 7·可比范围峰值 7(10月20日 00:00)·近 24 小时可比范围变化 –

0246810月20日00:0010月20日01:0010月20日01:0010月20日02:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。