Modal Blog· Richard Gong·· 2025-11-13AI 评估 · 32/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。
Decagon 如何在 Modal 上落地实时语音 AI
How Decagon shipped real-time voice AI on Modal
AI 导读
Decagon 与 Modal 合作训练紧凑开源模型并结合定制 draft 模型与运行时优化，使 Decagon Voice 2.0 延迟降低 65%，意图识别与回复质量显著提升。其定制 EAGLE3 draft 模型接受长度比开源基线高 38%，Modal 为 SGLang 构建异步调度器，消除 H200 GPU 空闲时间并将吞吐提升最高 12%，相关改动已向上游提交 PR。
来源：Modal Blog · modal.com