AI 为何静默失效：从系统视角看 AI 可靠性

AI 系统的失效不是像传统软件那样报错或触发告警，而是在指标正常、告警安静的情况下以模式形式逐渐显现，输出质量随模型漂移而持续下滑。传统监控依赖离散事件、稳定基线和二元阈值，在概率性系统上失效，事后复盘也难以定位单一故障点。文章主张用持续实时反馈替代周期性评估，并以某大型金融服务环境为例，用无监督聚类把系统行为分为基线、瞬时尖峰、持续退化和关键异常四类，各自按不同响应节奏连续评估。