笔记侠·· 5 小时前AI 评估 · 29/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。
辛顿赢了之后，人类怎么办？——《造神之后》谈AI安全与人类对齐困境
辛顿赢了之后，人类怎么办？
AI 导读
杰弗里·辛顿用半生证明机器能变聪明，离开谷歌后却开始警告AI风险。罗伯特·赖特在新书《造神之后》中指出，大语言模型的内部运作难以完全看透，2024年Anthropic曾在Claude内部找到与金门大桥相关的活动模式并增强它，使模型对该桥近乎痴迷。赖特认为，AI安全不仅是对机器的测试，更是对人类协作能力的“上帝测试”。
来源：笔记侠 · mp.weixin.qq.com