核心模型与趋势·· 4 小时前AI 评估 · 55/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
Dharma-AI 提出 VocabX:专用词表让 SLM 推理成本降低 77%
How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications
AI 导读
Dharma-AI 团队提出 VocabX 方法,在不更换基座模型、数据和训练配方的前提下,围绕每个 token 的推理成本而非出现频率重建词表,在基于 Qwen3-4B 的葡萄牙语作文评分器上实测推理成本下降 77.0%,平均回复长度从 350 个 token 降到 101 个。
来源:核心模型与趋势 · huggingface.co