Yangyi(@Yangyixxxx)· Yangyi (@yangyi)·· 2 天前AI 评估 · 10/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。
优化配置后本地推理跑到 100+ token/s，内存仍不够
优化了下配置 现在能跑到100+ token/s 了 就是内存还不够 再加两根内存条估计就够了
AI 导读
优化配置后本地推理速度提升到 100+ token/s，但内存仍不够用，作者估计再加两根内存条就够。推文未说明所用模型、硬件与具体优化方式。
来源：Yangyi(@Yangyixxxx) · x.com