跳到正文
原文
甲子光年·· 4 小时前精选AI 评估 · 76/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

岩芯矩阵开源EdgeRock-4B,单卡长推理吞吐达原模型6.42倍

给AI装上记忆岩锚:岩芯矩阵开源EdgeRock-4B,单卡吞吐达原模型6.4倍|甲子光年

AI 导读

岩山科技旗下岩芯矩阵联合香港科技大学、卡内基梅隆大学等高校发布并开源EdgeRock-4B,该模型由Qwen3.5-4B转换而来,核心是记忆岩锚(RMA)机制,让KV Cache不随上下文增长。

推荐理由

原文给出固定内存架构的实测数据与开源入口,读者可据此判断长推理场景的显存与吞吐取舍。

来源:甲子光年 · mp.weixin.qq.com