Junyang Lin(@JustinLin610)· Junyang Lin (@JustinLin610)·· 27 天前AI 评估 · 21/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
为什么人人都在做专用推理引擎?vLLM/SGLang 之外生态正在碎片化
cuz people can suddenly write rust now (lol...
AI 导读
针对“过去一个月至少 5 个专用推理引擎发布”的现象,有开发者质疑为何要放弃 vLLM、SGLang 另起炉灶,认为这会碎片化生态、弊大于利。Junyang Lin 转评调侃称,原因是现在人们突然都会写 Rust 了。
来源:Junyang Lin(@JustinLin610) · x.com