星吊

摘要： 硬件架构不同，以Intel的某款8核处理器为例，CPU中有很大一部分面积都被缓存占去了，相比之下，8个核心占的面积并不算大。所以CPU的主要时间并不是计算，而是在做数据的传输。 再来看GPU的架构，从下图可以看出，GPU中缓存只占了很小的一部分的空间，绝大多数的空间都被计算单元SMX占用，因此GPU 阅读全文

摘要： 在 CUDA 编程中，内存拷贝是非常费时的一个动作。CPU 和 GPU 之间的总线是 PCI-Express，是双向传输的，之间通过 DMA（Direct Memory Access，直接内存访问）机制进行数据拷贝。 1.CUDA 固定内存（Pinned Memory） 对于 CUDA 架构而言，主 阅读全文

摘要： 1、SIMT与SIMD本质相同：都是单指令多数据。 2、SIMT比SIMD更灵活，允许一条指令的多数据分开寻址；SIMD是必须连续在一起的片段。 3、SIMT形式上是多线程，本质上还是一个线程，只不过数据可以零散的分散开。但是如果你真的将数据分散开的话，执行效率上又会大打折扣，因为不满足并行访问的要 阅读全文

摘要： 寄存器 寄存器是GPU片上高速缓存， 执行单元可以以极低的延迟访问寄存器。寄存器的基本单元式寄存器文件，每个寄存器文件大小为32bit。局部存储器对于每个线程，局部存储器也是私有的。如果寄存器被消耗完。数据将被存储在局部存储器中。如果每个线程使用了过多的寄存器，或声明了大型结构体或数据，或者编译器无 阅读全文