meng shao(@shao__meng)· meng shao (@shao__meng)·· 3 小时前精选AI 评估 · 80/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
OpenBMB 发布 MiniCPM-V 4.7 开源 MoE 多模态模型,35B-A3B 在手机本地运行仅占 3GB 内存
OpenBMB 发布 MiniCPM-V 4.7 首个能在手机本地流畅运行、且不牺牲性能的开源 MoE 多模态模型,35B-A3B 参数,在 iPhone 17 Pro Max 上仅占 3 GB 内...
AI 导读
OpenBMB 发布 MiniCPM-V 4.7,称其为首个能在手机本地流畅运行且不牺牲性能的开源 MoE 多模态模型,35B-A3B 参数,在 iPhone 17 Pro Max 上仅占 3 GB 内存,解码速度 13+ tokens/s。
推荐理由
材料给出端侧 MoE 多模态模型的参数规模、内存占用与两项关键技术,可据此判断手机本地推理的工程路径。
来源:meng shao(@shao__meng) · x.com