跳到正文
原文
NVIDIA Technical Blog· Elizabeth Goodman·· 4 天前AI 评估 · 17/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

NVIDIA Green Contexts:控制 GPU 工作负载如何共享

Control How Your GPU Shares Work with Green Contexts

AI 导读

NVIDIA 推出 Green Contexts,用于控制单个进程内多个并发 GPU 组件之间的资源分配,例如延迟敏感的算子与吞吐型后台 kernel、数据预处理与模型推理。该机制面向多阶段工作流共用一块 GPU 的场景,解决 GPU 资源共享难以控制的问题。

来源:NVIDIA Technical Blog · developer.nvidia.com