Jev 类模型能否加速移动端端侧 AI 原生功能落地

Andrew Chen 提出，Jev 类模型或许能加速移动设备上的端侧 AI 原生功能。他指出强 LLM 距离在手机上运行还很远：内存带宽慢、只有高度量化的 MoE 模型才装得下，还存在功耗、发热等问题；业界为下一代移动设备打造 NPU，但目标模型规模相当有限。他认为通知、输入、收件箱和日历等大量移动 UX 都能从快速廉价的 AI 决策模型中受益。