跳到正文
原文
Andrej Karpathy(@karpathy)· Andrej Karpathy (@karpathy)·· 2026-07-01AI 评估 · 6/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

Karpathy 称赞最先进 LLM 推理的 tokens/watt 工程

Congrats!! I was impressed to learn about some of the engineering wizardry (e.g. *very* low voltage ...

AI 导读

Andrej Karpathy 称赞将最先进 LLM 的 tokens/watt 推向极致、实现交互级 tokens/sec/user 的工程巧思,包括极低电压域和集群级内存。他指出这属于与输电线路相反的工程范式:在极小距离上极低电压高电流,而非远距离极高电压低电流。

来源:Andrej Karpathy(@karpathy) · x.com