Gary Marcus(@GaryMarcus)· Gary Marcus (@GaryMarcus)·· 5 天前AI 评估 · 36/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
Hinton 承认 Ilya 是对的:规模比新架构更重要
Ilya doesn’t believe scale is all anymore; Hinton is behind.
AI 导读
Geoffrey Hinton 表示,Ilya Sutskever 一直坚持把模型做大就是答案,而他当时觉得这太简单,真正的进步需要新想法和新架构。Hinton 最终承认,数据和算力的规模才是最关键的因素,并称当年没想到计算机会比 AlexNet 时代快上十亿倍。
来源:Gary Marcus(@GaryMarcus) · x.com