摘要： Stateful Models 学习笔记 在 Triton Architecture 的文档中，有一个令我困惑了许久的 feature：Stateful Models。如果你也看不太懂的话，并且想知道或必须知道它是什么东西的话，不妨看看这一篇学习笔记，看看能不能对你有所帮助。下面是我的一点粗浅的理解 阅读全文

摘要： 简介 最近接触到了 cudaStream，对于一个没写过 CUDA 的人来说，一时有点难理解。于是网上找了几篇文章，快速入门了一下。其实说白了 cudaStream 就是一个执行流，用以提高并行度。 下面是学习过程中见到的概念。概念真的太重要了。 核函数：CUDA 的执行单元。核函数用 __glob 阅读全文