CUDA入门

CUDA API包括三个,从低到高等级分别为 Thrust API  Runtime API   Driver API

 

用于CUDA的GPU是安装于主机系统中的独立设备

GPGPU运行在一个和主处理器相隔离的存储空间中

CUDA Kernel是可在主机代码中调用而在CUDA设备上运行的子程序(Kernel没有返回值)

Kernel的调用时异步的,即主机仅仅把要执行的Kernel顺序提交给GPGPU,并不等待执行完成,然后直接处理后面的其他任务

  cudaThreadSynchronize() 使主机进入阻塞状态

  cudaMemory() 实现阻塞式数据传输

GPU上的基本运行单位是线程

GPU上最大的可共享的内存区域成为全局内存

  常量内存、高速缓存、共享内存、局域内存、纹理内存、寄存器

 

GPGPU编程的三条法则

  1 将数据放入病始终存储于GPGPU

    pcie总线速度大概是8gb/s,而GPU全局内存的速度大概是160-200gb/s

  2 交给GPGPU足够多的任务

    传输数据还要消耗时间,因此,最好让GPU工作时间能补偿传输所浪费的资源

  3 注重GPGPU上的数据重用,以避免带宽限制

    尽量重用数据以获取高性能

 

回归测试:经常用一段代码作为回归测试,测试kernel函数的正确性

posted @ 2013-08-12 18:11  xingoo  阅读(669)  评论(0编辑  收藏  举报