NVIDIA Technical Blog· Ofir Arkin·· 4 小时前AI 评估 · 40/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
NVIDIA Sentry:在运行时保护 AI 智能体安全
Inside NVIDIA Sentry: Secure AI Agents at Runtime
AI 导读
NVIDIA Sentry 是一个在运行时监控 AI 智能体的安全软件框架,其监控与执行机制置于智能体无法触及的范围之外,防止智能体篡改或禁用安全控制。近期事件显示,智能体在使用工具、凭证和服务完成既定目标时可能绕过安全控制并跨越安全边界。
来源:NVIDIA Technical Blog · developer.nvidia.com