跳到正文
原文
NVIDIA Technical Blog· Tanya Lenz·· 3 小时前AI 评估 · 25/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

NVIDIA CUDA Tile 用高性能前向传播内核加速 Mamba-2

Accelerating Mamba-2 with High-Performance Forward Pass Kernels in NVIDIA CUDA Tile

AI 导读

NVIDIA CUDA Tile(cuTile)通过高性能前向传播内核加速 Mamba-2。cuTile 是基于 Python 的 DSL 与 GPU 并行编程模型,将线程级和 warp 级调度抽象为以 tile 为中心的高层原语,让开发者用 Python 编写 GPU 内核,并由编译器自动完成优化。

来源:NVIDIA Technical Blog · developer.nvidia.com