Mind the Future — Richard Ngo· Richard Ngo·· 24 天前AI 评估 · 22/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
AI 如有序疏散而非踩踏:Richard Ngo 谈对齐与「羊群心态」
AI as orderly evacuation vs stampede
AI 导读
Richard Ngo 提出用「有序疏散 vs 踩踏」类比 AI 发展:对齐难相当于门被卡住,而即使对齐本身不难,人群挤压冲向出口时开门也会难得多。他认为这一类比优于「军备竞赛」,并指出 AI 行业目前仍处「人群推搡前行、几乎无人重伤」的阶段,还有时间化解羊群心态。
来源:Mind the Future — Richard Ngo · mindthefuture.info