跳到正文
原文
Siraj Raval· Siraj Raval·· 2026-07-29精选AI 评估 · 85/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

Kimi K3 开源权重发布:2.8T 参数、每次仅激活 2%

Kimi K3: The 2.8T AI That Wakes Up Just 2% at a Time

AI 导读

月之暗面发布 Kimi K3 并开放权重,模型规模达 2.8T 参数,每次推理仅激活约 2%。Siraj Raval 在视频中实测该模型,并拆解其百万 token 上下文记忆、Moonshot 的训练方式与自我学习机制,同时指出它目前的主要问题。技术报告已上传 arXiv,权重发布在 Hugging Face 的 moonshotai/Kimi-K3 页面。

推荐理由

作者实测并拆解 Kimi K3 的 2.8T 参数与稀疏激活机制,可了解开源前沿模型的实际能力边界。

来源:Siraj Raval · youtube.com