跳到正文
原文
魔搭ModelScope社区·· 3 小时前精选AI 评估 · 80/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

面壁开源 MiniCPM-V 4.7:iPhone 上 3GB 内存运行 35B-A3B MoE

面壁开源 MiniCPM-V 4.7:苹果手机 3GB 内存跑35B-A3B MoE

AI 导读

面壁智能(OpenBMB)开源 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。

推荐理由

面壁开源端侧 MoE 多模态模型,给出 3GB 内存跑 35B-A3B 的实测数据与部署代码,可据此评估手机端多模态落地条件。

来源:魔搭ModelScope社区 · mp.weixin.qq.com