跳到正文
原文
AWS Machine Learning Blog· Joseph Cottingham·· 3 小时前AI 评估 · 45/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

不再猜测 Amazon SageMaker AI 上 TTS 的自动扩缩容目标

Stop guessing auto scaling targets for TTS on Amazon SageMaker AI

AI 导读

针对自托管 TTS 端点自动扩缩容目标靠猜的问题,AWS 在 Amazon SageMaker AI 实时端点上以自定义容器部署 82M 参数的 Kokoro-82M,用实测的 Q_max(单实例不超 SLO 的最高并发)和 T_total(一次扩容耗时)推算扩容阈值、缩容阈值与两个冷却时间。

来源:AWS Machine Learning Blog · aws.amazon.com