热点事件观察中
AI拒答机制的安全风险
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
2026年10月9日，MIT Technology Review刊文讨论AI安全对模型「拒绝」能力的高度依赖。文章梳理了拒绝行为的训练方式与高维激活空间原理，指出分类器叠加的「瑞士奶酪模型」存在漏洞，过度拒绝已导致正常提问被误拦。文章还提到OpenAI与阿联酋等国家的合作，以及Anthropic与Google等模型对威权政府相关提问的差异化拒绝，认为拒绝机制既不可靠，也可能被滥用为审查工具。
AI 根据报道生成 · 22 小时前更新
最新进展10月9日 17:00
MIT刊文：AI拒绝机制不可靠且可能沦为审查工具。报道时间线
沿着报道，了解事件的不同侧面。
10月9日
- MIT Technology ReviewMIT科技评论：我们过于信任AI说「不」的能力
AI安全高度依赖模型的「拒绝」能力，但这一机制既不可靠也可能被滥用。文章梳理了拒绝行为的训练方式与高维激活空间原理，并指出分类器叠加的「瑞士奶酪模型」存在漏洞，过度拒绝已导致正常提问被误拦；同时OpenAI与阿联酋等国家的合作、Anthropic与Google等模型对威权政府相关提问的差异化拒绝，都显示拒绝正在成为审查工具。
本事件热度走势
当前热度 5·可比范围峰值 9（10月9日 22:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。