跨平台使用Intrinsic函数范例2——使用SSE2、AVX指令集 处理 双精度浮点数组求和

http://blog.csdn.net/zyl910/article/details/8116560

　　本文面对对SSE等SIMD指令集有一定基础的读者，以双精度浮点数组求和为例演示了如何跨平台使用SSE2、AVX指令集。支持vc、gcc编译器，在Windows、Linux、Mac这三大平台上成功运行。

一、关键讲解

　　前文（http://www.cnblogs.com/zyl910/archive/2012/10/22/simdsumfloat.html）演示了如何使用SSE、AVX指令集 处理 单精度浮点数组求和。现在对其进行改造，使用SSE2、AVX指令集 处理 双精度浮点数组求和。因程序基本上差不多，文本就不详细讲解了，只说关键变化。

1.1 指令集简介

　　先来看看支持双精度浮点数的SIMD的指令集—— SSE指令集只支持单精度浮点运算，直到SSE2指令集才支持双精度浮点数运算。SSE2定义了128位紧缩双精度浮点类型，对应Intrinsic中的__m128d类型，它能一次能处理2个双精度浮点数。 AVX指令集从一开始就支持单精度与双精度浮点运算（但整数运算要等AVX2）。AVX定义了256位紧缩双精度浮点类型，对应Intrinsic中的__m256d类型，它能一次能处理4个双精度浮点数。

1.2 改造为 SSE2、AVX的双精度浮点代码

　　在使用Intrinsic函数时，将 SSE、AVX的单精度浮点代码 改造为 SSE2、AVX的双精度浮点代码是很方便的。对比前文与本文的数组求和代码，变更的地方有——

float double 备注
指令 Intrinsic Asm 指令 Intrinsic Asm
SSE __m128 XMMWORD SSE2 __m128d XMMWORD 类型
_mm_setzero_ps XORPS _mm_setzero_pd XORPD 赋0
_mm_load_ps MOVAPS _mm_load_pd MOVAPD 加载
_mm_add_ps ADDPS _mm_add_pd ADDPD 加法
AVX __m256 YMMWORD AVX __m256d YMMWORD 类型
_mm256_setzero_ps VXORPS _mm256_setzero_pd VXORPD 赋0
_mm256_load_ps VMOVAPS _mm256_load_pd VMOVAPD 加载
_mm256_add_ps VADDPS _mm256_add_pd VADDPD 加法

 

　　其次，还需要调整一下地址计算。对于C语言来说，将float指针改为double指针就能解决大多数地址计算问题了。然后再修正一下块宽计算、改写一下合并时的代码，便大功告成了。 　　例如sumfloat_sse与sumdouble_sse——

[cpp] view plaincopyprint?
  1. // 单精度浮点数组求和_SSE版.  
  2. float sumfloat_sse(constfloat* pbuf, size_t cntbuf) 
  3. { 
  4.     float s = 0;    // 求和变量.  
  5.     size_t i; 
  6.     size_t nBlockWidth = 4; // 块宽. SSE寄存器能一次处理4个float.  
  7.     size_t cntBlock = cntbuf / nBlockWidth; // 块数.  
  8.     size_t cntRem = cntbuf % nBlockWidth;   // 剩余数量.  
  9.     __m128 xfsSum = _mm_setzero_ps();   // 求和变量。[SSE] 赋初值0  
  10.     __m128 xfsLoad; // 加载.  
  11.     constfloat* p = pbuf;  // SSE批量处理时所用的指针.  
  12.     constfloat* q; // 将SSE变量上的多个数值合并时所用指针.  
  13.  
  14.     // SSE批量处理.  
  15.     for(i=0; i<cntBlock; ++i) 
  16.     { 
  17.         xfsLoad = _mm_load_ps(p);   // [SSE] 加载  
  18.         xfsSum = _mm_add_ps(xfsSum, xfsLoad);   // [SSE] 单精浮点紧缩加法  
  19.         p += nBlockWidth; 
  20.     } 
  21.     // 合并.  
  22.     q = (constfloat*)&xfsSum; 
  23.     s = q[0] + q[1] + q[2] + q[3]; 
  24.  
  25.     // 处理剩下的.  
  26.     for(i=0; i<cntRem; ++i) 
  27.     { 
  28.         s += p[i]; 
  29.     } 
  30.  
  31.     return s; 
  32. } 
  33.  
  34. // 双精度浮点数组求和_SSE版.  
  35. double sumdouble_sse(constdouble* pbuf, size_t cntbuf) 
  36. { 
  37.     double s = 0;   // 求和变量.  
  38.     size_t i; 
  39.     size_t nBlockWidth = 2; // 块宽. SSE寄存器能一次处理2个double.  
  40.     size_t cntBlock = cntbuf / nBlockWidth; // 块数.  
  41.     size_t cntRem = cntbuf % nBlockWidth;   // 剩余数量.  
  42.     __m128d xfdSum = _mm_setzero_pd();  // 求和变量。[SSE2] XORPD. 赋初值0.  
  43.     __m128d xfdLoad;    // 加载.  
  44.     constdouble* p = pbuf; // SSE批量处理时所用的指针.  
  45.     constdouble* q;    // 将SSE变量上的多个数值合并时所用指针.  
  46.  
  47.     // SSE批量处理.  
  48.     for(i=0; i<cntBlock; ++i) 
  49.     { 
  50.         xfdLoad = _mm_load_pd(p);   // [SSE2] MOVAPD. 加载.  
  51.         xfdSum = _mm_add_pd(xfdSum, xfdLoad);   // [SSE2] ADDPD. 双精浮点紧缩加法.  
  52.         p += nBlockWidth; 
  53.     } 
  54.     // 合并.  
  55.     q = (constdouble*)&xfdSum; 
  56.     s = q[0] + q[1]; 
  57.  
  58.     // 处理剩下的.  
  59.     for(i=0; i<cntRem; ++i) 
  60.     { 
  61.         s += p[i]; 
  62.     } 
  63.  
  64.     return s; 
  65. }  
// 单精度浮点数组求和_SSE版.
float sumfloat_sse(const float* pbuf, size_t cntbuf)
{
	float s = 0;	// 求和变量.
	size_t i;
	size_t nBlockWidth = 4;	// 块宽. SSE寄存器能一次处理4个float.
	size_t cntBlock = cntbuf / nBlockWidth;	// 块数.
	size_t cntRem = cntbuf % nBlockWidth;	// 剩余数量.
	__m128 xfsSum = _mm_setzero_ps();	// 求和变量。[SSE] 赋初值0
	__m128 xfsLoad;	// 加载.
	const float* p = pbuf;	// SSE批量处理时所用的指针.
	const float* q;	// 将SSE变量上的多个数值合并时所用指针.

	// SSE批量处理.
	for(i=0; i<cntBlock; ++i)
	{
		xfsLoad = _mm_load_ps(p);	// [SSE] 加载
		xfsSum = _mm_add_ps(xfsSum, xfsLoad);	// [SSE] 单精浮点紧缩加法
		p += nBlockWidth;
	}
	// 合并.
	q = (const float*)&xfsSum;
	s = q[0] + q[1] + q[2] + q[3];

	// 处理剩下的.
	for(i=0; i<cntRem; ++i)
	{
		s += p[i];
	}

	return s;
}

// 双精度浮点数组求和_SSE版.
double sumdouble_sse(const double* pbuf, size_t cntbuf)
{
	double s = 0;	// 求和变量.
	size_t i;
	size_t nBlockWidth = 2;	// 块宽. SSE寄存器能一次处理2个double.
	size_t cntBlock = cntbuf / nBlockWidth;	// 块数.
	size_t cntRem = cntbuf % nBlockWidth;	// 剩余数量.
	__m128d xfdSum = _mm_setzero_pd();	// 求和变量。[SSE2] XORPD. 赋初值0.
	__m128d xfdLoad;	// 加载.
	const double* p = pbuf;	// SSE批量处理时所用的指针.
	const double* q;	// 将SSE变量上的多个数值合并时所用指针.

	// SSE批量处理.
	for(i=0; i<cntBlock; ++i)
	{
		xfdLoad = _mm_load_pd(p);	// [SSE2] MOVAPD. 加载.
		xfdSum = _mm_add_pd(xfdSum, xfdLoad);	// [SSE2] ADDPD. 双精浮点紧缩加法.
		p += nBlockWidth;
	}
	// 合并.
	q = (const double*)&xfdSum;
	s = q[0] + q[1];

	// 处理剩下的.
	for(i=0; i<cntRem; ++i)
	{
		s += p[i];
	}

	return s;
}

 

1.3 环境检查

　　最后，别忘了检查环境—— INTRIN_SSE2、INTRIN_AVX 宏是 zintrin.h 提供的，可用来在编译时检测编译器是否支持SSE2、AVX指令集。 simd_sse_level、simd_avx_level函数是 ccpuid.h 提供的，可用来在运行时检测当前系统环境是否支持SSE2、AVX指令集。

二、全部代码

2.1 simdsumdouble.c

　　全部代码——

[cpp] view plaincopyprint?
  1. #define __STDC_LIMIT_MACROS 1   // C99整数范围常量. [纯C程序可以不用, 而C++程序必须定义该宏.]  
  2.  
  3. #include <stdlib.h>  
  4. #include <stdio.h>  
  5. #include <time.h>  
  6.  
  7. #include "zintrin.h"  
  8. #include "ccpuid.h"  
  9.  
  10.  
  11. // Compiler name  
  12. #define MACTOSTR(x) #x  
  13. #define MACROVALUESTR(x)    MACTOSTR(x)  
  14. #if defined(__ICL)  // Intel C++  
  15. #  if defined(__VERSION__)  
  16. #    define COMPILER_NAME   "Intel C++ " __VERSION__  
  17. #  elif defined(__INTEL_COMPILER_BUILD_DATE)  
  18. #    define COMPILER_NAME   "Intel C++ (" MACROVALUESTR(__INTEL_COMPILER_BUILD_DATE) ")"  
  19. #  else  
  20. #    define COMPILER_NAME   "Intel C++"  
  21. #  endif    // #  if defined(__VERSION__)  
  22. #elif defined(_MSC_VER) // Microsoft VC++  
  23. #  if defined(_MSC_FULL_VER)  
  24. #    define COMPILER_NAME   "Microsoft VC++ (" MACROVALUESTR(_MSC_FULL_VER) ")"  
  25. #  elif defined(_MSC_VER)  
  26. #    define COMPILER_NAME   "Microsoft VC++ (" MACROVALUESTR(_MSC_VER) ")"  
  27. #  else  
  28. #    define COMPILER_NAME   "Microsoft VC++"  
  29. #  endif    // #  if defined(_MSC_FULL_VER)  
  30. #elif defined(__GNUC__) // GCC  
  31. #  if defined(__CYGWIN__)  
  32. #    define COMPILER_NAME   "GCC(Cygmin) " __VERSION__  
  33. #  elif defined(__MINGW32__)  
  34. #    define COMPILER_NAME   "GCC(MinGW) " __VERSION__  
  35. #  else  
  36. #    define COMPILER_NAME   "GCC " __VERSION__  
  37. #  endif    // #  if defined(_MSC_FULL_VER)  
  38. #else  
  39. #  define COMPILER_NAME "Unknown Compiler"  
  40. #endif  // #if defined(__ICL)   // Intel C++  
  41.  
  42.  
  43. //////////////////////////////////////////////////  
  44. // sumdouble: 双精度浮点数组求和的函数  
  45. //////////////////////////////////////////////////  
  46.  
  47. // 双精度浮点数组求和_基本版.  
  48. //  
  49. // result: 返回数组求和结果.  
  50. // pbuf: 数组的首地址.  
  51. // cntbuf: 数组长度.  
  52. double sumdouble_base(constdouble* pbuf, size_t cntbuf) 
  53. { 
  54.     double s = 0;   // 求和变量.  
  55.     size_t i; 
  56.     for(i=0; i<cntbuf; ++i) 
  57.     { 
  58.         s += pbuf[i]; 
  59.     } 
  60.     return s; 
  61. } 
  62.  
  63. #ifdef INTRIN_SSE2  
  64. // 双精度浮点数组求和_SSE版.  
  65. double sumdouble_sse(constdouble* pbuf, size_t cntbuf) 
  66. { 
  67.     double s = 0;   // 求和变量.  
  68.     size_t i; 
  69.     size_t nBlockWidth = 2; // 块宽. SSE寄存器能一次处理2个double.  
  70.     size_t cntBlock = cntbuf / nBlockWidth; // 块数.  
  71.     size_t cntRem = cntbuf % nBlockWidth;   // 剩余数量.  
  72.     __m128d xfdSum = _mm_setzero_pd();  // 求和变量。[SSE2] XORPD. 赋初值0.  
  73.     __m128d xfdLoad;    // 加载.  
  74.     constdouble* p = pbuf; // SSE批量处理时所用的指针.  
  75.     constdouble* q;    // 将SSE变量上的多个数值合并时所用指针.  
  76.  
  77.     // SSE批量处理.  
  78.     for(i=0; i<cntBlock; ++i) 
  79.     { 
  80.         xfdLoad = _mm_load_pd(p);   // [SSE2] MOVAPD. 加载.  
  81.         xfdSum = _mm_add_pd(xfdSum, xfdLoad);   // [SSE2] ADDPD. 双精浮点紧缩加法.  
  82.         p += nBlockWidth; 
  83.     } 
  84.     // 合并.  
  85.     q = (constdouble*)&xfdSum; 
  86.     s = q[0] + q[1]; 
  87.  
  88.     // 处理剩下的.  
  89.     for(i=0; i<cntRem; ++i) 
  90.     { 
  91.         s += p[i]; 
  92.     } 
  93.  
  94.     return s; 
  95. } 
  96.  
  97. // 双精度浮点数组求和_SSE四路循环展开版.  
  98. double sumdouble_sse_4loop(constdouble* pbuf, size_t cntbuf) 
  99. { 
  100.     double s = 0;   // 返回值.  
  101.     size_t i; 
  102.     size_t nBlockWidth = 2*4;   // 块宽. SSE寄存器能一次处理2个double，然后循环展开4次.  
  103.     size_t cntBlock = cntbuf / nBlockWidth; // 块数.  
  104.     size_t cntRem = cntbuf % nBlockWidth;   // 剩余数量.  
  105.     __m128d xfdSum = _mm_setzero_pd();  // 求和变量。[SSE2] XORPD. 赋初值0.  
  106.     __m128d xfdSum1 = _mm_setzero_pd(); 
  107.     __m128d xfdSum2 = _mm_setzero_pd(); 
  108.     __m128d xfdSum3 = _mm_setzero_pd(); 
  109.     __m128d xfdLoad;    // 加载.  
  110.     __m128d xfdLoad1; 
  111.     __m128d xfdLoad2; 
  112.     __m128d xfdLoad3; 
  113.     constdouble* p = pbuf; // SSE批量处理时所用的指针.  
  114.     constdouble* q;    // 将SSE变量上的多个数值合并时所用指针.  
  115.  
  116.     // SSE批量处理.  
  117.     for(i=0; i<cntBlock; ++i) 
  118.     { 
  119.         xfdLoad = _mm_load_pd(p);   // [SSE2] MOVAPD. 加载.  
  120.         xfdLoad1 = _mm_load_pd(p+2); 
  121.         xfdLoad2 = _mm_load_pd(p+4); 
  122.         xfdLoad3 = _mm_load_pd(p+6); 
  123.         xfdSum = _mm_add_pd(xfdSum, xfdLoad);   // [SSE2] ADDPD. 双精浮点紧缩加法.  
  124.         xfdSum1 = _mm_add_pd(xfdSum1, xfdLoad1); 
  125.         xfdSum2 = _mm_add_pd(xfdSum2, xfdLoad2); 
  126.         xfdSum3 = _mm_add_pd(xfdSum3, xfdLoad3); 
  127.         p += nBlockWidth; 
  128.     } 
  129.     // 合并.  
  130.     xfdSum = _mm_add_pd(xfdSum, xfdSum1);   // 两两合并(0~1).  
  131.     xfdSum2 = _mm_add_pd(xfdSum2, xfdSum3); // 两两合并(2~3).  
  132.     xfdSum = _mm_add_pd(xfdSum, xfdSum2);   // 两两合并(0~3).  
  133.     q = (constdouble*)&xfdSum; 
  134.     s = q[0] + q[1]; 
  135.  
  136.     // 处理剩下的.  
  137.     for(i=0; i<cntRem; ++i) 
  138.     { 
  139.         s += p[i]; 
  140.     } 
  141.  
  142.     return s; 
  143. } 
  144. #endif  // #ifdef INTRIN_SSE2  
  145.  
  146.  
  147. #ifdef INTRIN_AVX  
  148. // 双精度浮点数组求和_AVX版.  
  149. double sumdouble_avx(constdouble* pbuf, size_t cntbuf) 
  150. { 
  151.     double s = 0;   // 求和变量.  
  152.     size_t i; 
  153.     size_t nBlockWidth = 4; // 块宽. AVX寄存器能一次处理4个double.  
  154.     size_t cntBlock = cntbuf / nBlockWidth; // 块数.  
  155.     size_t cntRem = cntbuf % nBlockWidth;   // 剩余数量.  
  156.     __m256d yfdSum = _mm256_setzero_pd();   // 求和变量。[AVX] VXORPD. 赋初值0.  
  157.     __m256d yfdLoad;    // 加载.  
  158.     constdouble* p = pbuf; // AVX批量处理时所用的指针.  
  159.     constdouble* q;    // 将AVX变量上的多个数值合并时所用指针.  
  160.  
  161.     // AVX批量处理.  
  162.     for(i=0; i<cntBlock; ++i) 
  163.     { 
  164.         yfdLoad = _mm256_load_pd(p);    // [AVX] VMOVAPD. 加载.  
  165.         yfdSum = _mm256_add_pd(yfdSum, yfdLoad);    // [AVX] VADDPD. 双精浮点紧缩加法.  
  166.         p += nBlockWidth; 
  167.     } 
  168.     // 合并.  
  169.     q = (constdouble*)&yfdSum; 
  170.     s = q[0] + q[1] + q[2] + q[3]; 
  171.  
  172.     // 处理剩下的.  
  173.     for(i=0; i<cntRem; ++i) 
  174.     { 
  175.         s += p[i]; 
  176.     } 
  177.  
  178.     return s; 
  179. } 
  180.  
  181. // 双精度浮点数组求和_AVX四路循环展开版.  
  182. double sumdouble_avx_4loop(constdouble* pbuf, size_t cntbuf) 
  183. { 
  184.     double s = 0;   // 求和变量.  
  185.     size_t i; 
  186.     size_t nBlockWidth = 4*4;   // 块宽. AVX寄存器能一次处理8个double，然后循环展开4次.  
  187.     size_t cntBlock = cntbuf / nBlockWidth; // 块数.  
  188.     size_t cntRem = cntbuf % nBlockWidth;   // 剩余数量.  
  189.     __m256d yfdSum = _mm256_setzero_pd();   // 求和变量。[AVX] VXORPD. 赋初值0.  
  190.     __m256d yfdSum1 = _mm256_setzero_pd(); 
  191.     __m256d yfdSum2 = _mm256_setzero_pd(); 
  192.     __m256d yfdSum3 = _mm256_setzero_pd(); 
  193.     __m256d yfdLoad;    // 加载.  
  194.     __m256d yfdLoad1; 
  195.     __m256d yfdLoad2; 
  196.     __m256d yfdLoad3; 
  197.     constdouble* p = pbuf; // AVX批量处理时所用的指针.  
  198.     constdouble* q;    // 将AVX变量上的多个数值合并时所用指针.  
  199.  
  200.     // AVX批量处理.  
  201.     for(i=0; i<cntBlock; ++i) 
  202.     { 
  203.         yfdLoad = _mm256_load_pd(p);    // [AVX] VMOVAPD. 加载.  
  204.         yfdLoad1 = _mm256_load_pd(p+4); 
  205.         yfdLoad2 = _mm256_load_pd(p+8); 
  206.         yfdLoad3 = _mm256_load_pd(p+12); 
  207.         yfdSum = _mm256_add_pd(yfdSum, yfdLoad);    // [AVX] VADDPD. 双精浮点紧缩加法.  
  208.         yfdSum1 = _mm256_add_pd(yfdSum1, yfdLoad1); 
  209.         yfdSum2 = _mm256_add_pd(yfdSum2, yfdLoad2); 
  210.         yfdSum3 = _mm256_add_pd(yfdSum3, yfdLoad3); 
  211.         p += nBlockWidth; 
  212.     } 
  213.     // 合并.  
  214.     yfdSum = _mm256_add_pd(yfdSum, yfdSum1);    // 两两合并(0~1).  
  215.     yfdSum2 = _mm256_add_pd(yfdSum2, yfdSum3);  // 两两合并(2~3).  
  216.     yfdSum = _mm256_add_pd(yfdSum, yfdSum2);    // 两两合并(0~3).  
  217.     q = (constdouble*)&yfdSum; 
  218.     s = q[0] + q[1] + q[2] + q[3]; 
  219.  
  220.     // 处理剩下的.  
  221.     for(i=0; i<cntRem; ++i) 
  222.     { 
  223.         s += p[i]; 
  224.     } 
  225.  
  226.     return s; 
  227. } 
  228.  
  229. #endif  // #ifdef INTRIN_AVX  
  230.  
  231.  
  232.  
  233. //////////////////////////////////////////////////  
  234. // main  
  235. //////////////////////////////////////////////////  
  236.  
  237. // 变量对齐.  
  238. #ifndef ATTR_ALIGN  
  239. #  if defined(__GNUC__) // GCC  
  240. #    define ATTR_ALIGN(n)   __attribute__((aligned(n)))  
  241. #  else // 否则使用VC格式.  
  242. #    define ATTR_ALIGN(n)   __declspec(align(n))  
  243. #  endif  
  244. #endif  // #ifndef ATTR_ALIGN  
  245.  
  246.  
  247. #define BUFSIZE 2048    // = 32KB{L1 Cache} / (2 * sizeof(double))  
  248. ATTR_ALIGN(32) double buf[BUFSIZE]; 
  249.  
  250. // 测试时的函数类型  
  251. typedefdouble (*TESTPROC)(constdouble* pbuf, size_t cntbuf); 
  252.  
  253. // 进行测试  
  254. void runTest(constchar* szname, TESTPROC proc) 
  255. { 
  256.     constint testloop = 4000;  // 重复运算几次延长时间，避免计时精度问题.  
  257.     constclock_t TIMEOUT = CLOCKS_PER_SEC/2;   // 最短测试时间.  
  258.     int i,j,k; 
  259.     clock_t tm0, dt;    // 存储时间.  
  260.     double mps; // M/s.  
  261.     double mps_good = 0;    // 最佳M/s. 因线程切换会导致的数值波动, 于是选取最佳值.  
  262.     volatiledouble n=0;    // 避免内循环被优化.  
  263.     for(i=1; i<=3; ++i)  // 多次测试.  
  264.     { 
  265.         tm0 = clock(); 
  266.         // main  
  267.         k=0; 
  268.         do 
  269.         { 
  270.             for(j=1; j<=testloop; ++j)   // 重复运算几次延长时间，避免计时开销带来的影响.  
  271.             { 
  272.                 n = proc(buf, BUFSIZE); // 避免内循环被编译优化消掉.  
  273.             } 
  274.             ++k; 
  275.             dt = clock() - tm0; 
  276.         }while(dt<TIMEOUT); 
  277.         // show  
  278.         mps = (double)k*testloop*BUFSIZE*CLOCKS_PER_SEC/(1024.0*1024.0*dt); // k*testloop*BUFSIZE/(1024.0*1024.0) 将数据规模换算为M，然后再乘以 CLOCKS_PER_SEC/dt 换算为M/s .  
  279.         if (mps_good<mps)    mps_good=mps;   // 选取最佳值.  
  280.         //printf("%s:\t%.0f M/s\t//%f\n", szname, mps, n);  
  281.     } 
  282.     printf("%s:\t%.0f M/s\t//%f\n", szname, mps_good, n); 
  283. } 
  284.  
  285. int main(int argc, char* argv[]) 
  286. { 
  287.     char szBuf[64]; 
  288.     int i; 
  289.  
  290.     printf("simdsumdouble v1.00 (%dbit)\n", INTRIN_WORDSIZE); 
  291.     printf("Compiler: %s\n", COMPILER_NAME); 
  292.     cpu_getbrand(szBuf); 
  293.     printf("CPU:\t%s\n", szBuf); 
  294.     printf("\n"); 
  295.  
  296.     // init buf  
  297.     srand( (unsigned)time( NULL ) ); 
  298.     for (i = 0; i < BUFSIZE; i++) buf[i] = (double)(rand() & 0x7fff);    // 使用&0x7fff是为了让求和后的数值在一定范围内，便于观察结果是否正确.  
  299.  
  300.     // test  
  301.     runTest("sumdouble_base", sumdouble_base);  // 双精度浮点数组求和_基本版.  
  302. #ifdef INTRIN_SSE2  
  303.     if (simd_sse_level(NULL) >= SIMD_SSE_2) 
  304.     { 
  305.         runTest("sumdouble_sse", sumdouble_sse);    // 双精度浮点数组求和_SSE版.  
  306.         runTest("sumdouble_sse_4loop", sumdouble_sse_4loop);    // 双精度浮点数组求和_SSE四路循环展开版.  
  307.     } 
  308. #endif  // #ifdef INTRIN_SSE2  
  309. #ifdef INTRIN_AVX  
  310.     if (simd_avx_level(NULL) >= SIMD_AVX_1) 
  311.     { 
  312.         runTest("sumdouble_avx", sumdouble_avx);    // 双精度浮点数组求和_SSE版.  
  313.         runTest("sumdouble_avx_4loop", sumdouble_avx_4loop);    // 双精度浮点数组求和_SSE四路循环展开版.  
  314.     } 
  315. #endif  // #ifdef INTRIN_AVX  
  316.  
  317.     return 0; 
  318. }  
#define __STDC_LIMIT_MACROS	1	// C99整数范围常量. [纯C程序可以不用, 而C++程序必须定义该宏.]

#include <stdlib.h>
#include <stdio.h>
#include <time.h>

#include "zintrin.h"
#include "ccpuid.h"


// Compiler name
#define MACTOSTR(x)	#x
#define MACROVALUESTR(x)	MACTOSTR(x)
#if defined(__ICL)	// Intel C++
#  if defined(__VERSION__)
#    define COMPILER_NAME	"Intel C++ " __VERSION__
#  elif defined(__INTEL_COMPILER_BUILD_DATE)
#    define COMPILER_NAME	"Intel C++ (" MACROVALUESTR(__INTEL_COMPILER_BUILD_DATE) ")"
#  else
#    define COMPILER_NAME	"Intel C++"
#  endif	// #  if defined(__VERSION__)
#elif defined(_MSC_VER)	// Microsoft VC++
#  if defined(_MSC_FULL_VER)
#    define COMPILER_NAME	"Microsoft VC++ (" MACROVALUESTR(_MSC_FULL_VER) ")"
#  elif defined(_MSC_VER)
#    define COMPILER_NAME	"Microsoft VC++ (" MACROVALUESTR(_MSC_VER) ")"
#  else
#    define COMPILER_NAME	"Microsoft VC++"
#  endif	// #  if defined(_MSC_FULL_VER)
#elif defined(__GNUC__)	// GCC
#  if defined(__CYGWIN__)
#    define COMPILER_NAME	"GCC(Cygmin) " __VERSION__
#  elif defined(__MINGW32__)
#    define COMPILER_NAME	"GCC(MinGW) " __VERSION__
#  else
#    define COMPILER_NAME	"GCC " __VERSION__
#  endif	// #  if defined(_MSC_FULL_VER)
#else
#  define COMPILER_NAME	"Unknown Compiler"
#endif	// #if defined(__ICL)	// Intel C++


//////////////////////////////////////////////////
// sumdouble: 双精度浮点数组求和的函数
//////////////////////////////////////////////////

// 双精度浮点数组求和_基本版.
//
// result: 返回数组求和结果.
// pbuf: 数组的首地址.
// cntbuf: 数组长度.
double sumdouble_base(const double* pbuf, size_t cntbuf)
{
	double s = 0;	// 求和变量.
	size_t i;
	for(i=0; i<cntbuf; ++i)
	{
		s += pbuf[i];
	}
	return s;
}

#ifdef INTRIN_SSE2
// 双精度浮点数组求和_SSE版.
double sumdouble_sse(const double* pbuf, size_t cntbuf)
{
	double s = 0;	// 求和变量.
	size_t i;
	size_t nBlockWidth = 2;	// 块宽. SSE寄存器能一次处理2个double.
	size_t cntBlock = cntbuf / nBlockWidth;	// 块数.
	size_t cntRem = cntbuf % nBlockWidth;	// 剩余数量.
	__m128d xfdSum = _mm_setzero_pd();	// 求和变量。[SSE2] XORPD. 赋初值0.
	__m128d xfdLoad;	// 加载.
	const double* p = pbuf;	// SSE批量处理时所用的指针.
	const double* q;	// 将SSE变量上的多个数值合并时所用指针.

	// SSE批量处理.
	for(i=0; i<cntBlock; ++i)
	{
		xfdLoad = _mm_load_pd(p);	// [SSE2] MOVAPD. 加载.
		xfdSum = _mm_add_pd(xfdSum, xfdLoad);	// [SSE2] ADDPD. 双精浮点紧缩加法.
		p += nBlockWidth;
	}
	// 合并.
	q = (const double*)&xfdSum;
	s = q[0] + q[1];

	// 处理剩下的.
	for(i=0; i<cntRem; ++i)
	{
		s += p[i];
	}

	return s;
}

// 双精度浮点数组求和_SSE四路循环展开版.
double sumdouble_sse_4loop(const double* pbuf, size_t cntbuf)
{
	double s = 0;	// 返回值.
	size_t i;
	size_t nBlockWidth = 2*4;	// 块宽. SSE寄存器能一次处理2个double，然后循环展开4次.
	size_t cntBlock = cntbuf / nBlockWidth;	// 块数.
	size_t cntRem = cntbuf % nBlockWidth;	// 剩余数量.
	__m128d xfdSum = _mm_setzero_pd();	// 求和变量。[SSE2] XORPD. 赋初值0.
	__m128d xfdSum1 = _mm_setzero_pd();
	__m128d xfdSum2 = _mm_setzero_pd();
	__m128d xfdSum3 = _mm_setzero_pd();
	__m128d xfdLoad;	// 加载.
	__m128d xfdLoad1;
	__m128d xfdLoad2;
	__m128d xfdLoad3;
	const double* p = pbuf;	// SSE批量处理时所用的指针.
	const double* q;	// 将SSE变量上的多个数值合并时所用指针.

	// SSE批量处理.
	for(i=0; i<cntBlock; ++i)
	{
		xfdLoad = _mm_load_pd(p);	// [SSE2] MOVAPD. 加载.
		xfdLoad1 = _mm_load_pd(p+2);
		xfdLoad2 = _mm_load_pd(p+4);
		xfdLoad3 = _mm_load_pd(p+6);
		xfdSum = _mm_add_pd(xfdSum, xfdLoad);	// [SSE2] ADDPD. 双精浮点紧缩加法.
		xfdSum1 = _mm_add_pd(xfdSum1, xfdLoad1);
		xfdSum2 = _mm_add_pd(xfdSum2, xfdLoad2);
		xfdSum3 = _mm_add_pd(xfdSum3, xfdLoad3);
		p += nBlockWidth;
	}
	// 合并.
	xfdSum = _mm_add_pd(xfdSum, xfdSum1);	// 两两合并(0~1).
	xfdSum2 = _mm_add_pd(xfdSum2, xfdSum3);	// 两两合并(2~3).
	xfdSum = _mm_add_pd(xfdSum, xfdSum2);	// 两两合并(0~3).
	q = (const double*)&xfdSum;
	s = q[0] + q[1];

	// 处理剩下的.
	for(i=0; i<cntRem; ++i)
	{
		s += p[i];
	}

	return s;
}
#endif	// #ifdef INTRIN_SSE2


#ifdef INTRIN_AVX
// 双精度浮点数组求和_AVX版.
double sumdouble_avx(const double* pbuf, size_t cntbuf)
{
	double s = 0;	// 求和变量.
	size_t i;
	size_t nBlockWidth = 4;	// 块宽. AVX寄存器能一次处理4个double.
	size_t cntBlock = cntbuf / nBlockWidth;	// 块数.
	size_t cntRem = cntbuf % nBlockWidth;	// 剩余数量.
	__m256d yfdSum = _mm256_setzero_pd();	// 求和变量。[AVX] VXORPD. 赋初值0.
	__m256d yfdLoad;	// 加载.
	const double* p = pbuf;	// AVX批量处理时所用的指针.
	const double* q;	// 将AVX变量上的多个数值合并时所用指针.

	// AVX批量处理.
	for(i=0; i<cntBlock; ++i)
	{
		yfdLoad = _mm256_load_pd(p);	// [AVX] VMOVAPD. 加载.
		yfdSum = _mm256_add_pd(yfdSum, yfdLoad);	// [AVX] VADDPD. 双精浮点紧缩加法.
		p += nBlockWidth;
	}
	// 合并.
	q = (const double*)&yfdSum;
	s = q[0] + q[1] + q[2] + q[3];

	// 处理剩下的.
	for(i=0; i<cntRem; ++i)
	{
		s += p[i];
	}

	return s;
}

// 双精度浮点数组求和_AVX四路循环展开版.
double sumdouble_avx_4loop(const double* pbuf, size_t cntbuf)
{
	double s = 0;	// 求和变量.
	size_t i;
	size_t nBlockWidth = 4*4;	// 块宽. AVX寄存器能一次处理8个double，然后循环展开4次.
	size_t cntBlock = cntbuf / nBlockWidth;	// 块数.
	size_t cntRem = cntbuf % nBlockWidth;	// 剩余数量.
	__m256d yfdSum = _mm256_setzero_pd();	// 求和变量。[AVX] VXORPD. 赋初值0.
	__m256d yfdSum1 = _mm256_setzero_pd();
	__m256d yfdSum2 = _mm256_setzero_pd();
	__m256d yfdSum3 = _mm256_setzero_pd();
	__m256d yfdLoad;	// 加载.
	__m256d yfdLoad1;
	__m256d yfdLoad2;
	__m256d yfdLoad3;
	const double* p = pbuf;	// AVX批量处理时所用的指针.
	const double* q;	// 将AVX变量上的多个数值合并时所用指针.

	// AVX批量处理.
	for(i=0; i<cntBlock; ++i)
	{
		yfdLoad = _mm256_load_pd(p);	// [AVX] VMOVAPD. 加载.
		yfdLoad1 = _mm256_load_pd(p+4);
		yfdLoad2 = _mm256_load_pd(p+8);
		yfdLoad3 = _mm256_load_pd(p+12);
		yfdSum = _mm256_add_pd(yfdSum, yfdLoad);	// [AVX] VADDPD. 双精浮点紧缩加法.
		yfdSum1 = _mm256_add_pd(yfdSum1, yfdLoad1);
		yfdSum2 = _mm256_add_pd(yfdSum2, yfdLoad2);
		yfdSum3 = _mm256_add_pd(yfdSum3, yfdLoad3);
		p += nBlockWidth;
	}
	// 合并.
	yfdSum = _mm256_add_pd(yfdSum, yfdSum1);	// 两两合并(0~1).
	yfdSum2 = _mm256_add_pd(yfdSum2, yfdSum3);	// 两两合并(2~3).
	yfdSum = _mm256_add_pd(yfdSum, yfdSum2);	// 两两合并(0~3).
	q = (const double*)&yfdSum;
	s = q[0] + q[1] + q[2] + q[3];

	// 处理剩下的.
	for(i=0; i<cntRem; ++i)
	{
		s += p[i];
	}

	return s;
}

#endif	// #ifdef INTRIN_AVX



//////////////////////////////////////////////////
// main
//////////////////////////////////////////////////

// 变量对齐.
#ifndef ATTR_ALIGN
#  if defined(__GNUC__)	// GCC
#    define ATTR_ALIGN(n)	__attribute__((aligned(n)))
#  else	// 否则使用VC格式.
#    define ATTR_ALIGN(n)	__declspec(align(n))
#  endif
#endif	// #ifndef ATTR_ALIGN


#define BUFSIZE	2048	// = 32KB{L1 Cache} / (2 * sizeof(double))
ATTR_ALIGN(32) double buf[BUFSIZE];

// 测试时的函数类型
typedef double (*TESTPROC)(const double* pbuf, size_t cntbuf);

// 进行测试
void runTest(const char* szname, TESTPROC proc)
{
	const int testloop = 4000;	// 重复运算几次延长时间，避免计时精度问题.
	const clock_t TIMEOUT = CLOCKS_PER_SEC/2;	// 最短测试时间.
	int i,j,k;
	clock_t	tm0, dt;	// 存储时间.
	double mps;	// M/s.
	double mps_good = 0;	// 最佳M/s. 因线程切换会导致的数值波动, 于是选取最佳值.
	volatile double n=0;	// 避免内循环被优化.
	for(i=1; i<=3; ++i)	// 多次测试.
	{
		tm0 = clock();
		// main
		k=0;
		do
		{
			for(j=1; j<=testloop; ++j)	// 重复运算几次延长时间，避免计时开销带来的影响.
			{
				n = proc(buf, BUFSIZE);	// 避免内循环被编译优化消掉.
			}
			++k;
			dt = clock() - tm0;
		}while(dt<TIMEOUT);
		// show
		mps = (double)k*testloop*BUFSIZE*CLOCKS_PER_SEC/(1024.0*1024.0*dt);	// k*testloop*BUFSIZE/(1024.0*1024.0) 将数据规模换算为M，然后再乘以 CLOCKS_PER_SEC/dt 换算为M/s .
		if (mps_good<mps)	mps_good=mps;	// 选取最佳值.
		//printf("%s:\t%.0f M/s\t//%f\n", szname, mps, n);
	}
	printf("%s:\t%.0f M/s\t//%f\n", szname, mps_good, n);
}

int main(int argc, char* argv[])
{
	char szBuf[64];
	int i;

	printf("simdsumdouble v1.00 (%dbit)\n", INTRIN_WORDSIZE);
	printf("Compiler: %s\n", COMPILER_NAME);
	cpu_getbrand(szBuf);
	printf("CPU:\t%s\n", szBuf);
	printf("\n");

	// init buf
	srand( (unsigned)time( NULL ) );
	for (i = 0; i < BUFSIZE; i++) buf[i] = (double)(rand() & 0x7fff);	// 使用&0x7fff是为了让求和后的数值在一定范围内，便于观察结果是否正确.

	// test
	runTest("sumdouble_base", sumdouble_base);	// 双精度浮点数组求和_基本版.
#ifdef INTRIN_SSE2
	if (simd_sse_level(NULL) >= SIMD_SSE_2)
	{
		runTest("sumdouble_sse", sumdouble_sse);	// 双精度浮点数组求和_SSE版.
		runTest("sumdouble_sse_4loop", sumdouble_sse_4loop);	// 双精度浮点数组求和_SSE四路循环展开版.
	}
#endif	// #ifdef INTRIN_SSE2
#ifdef INTRIN_AVX
	if (simd_avx_level(NULL) >= SIMD_AVX_1)
	{
		runTest("sumdouble_avx", sumdouble_avx);	// 双精度浮点数组求和_SSE版.
		runTest("sumdouble_avx_4loop", sumdouble_avx_4loop);	// 双精度浮点数组求和_SSE四路循环展开版.
	}
#endif	// #ifdef INTRIN_AVX

	return 0;
}

 

2.2 makefile

　　全部代码——

[plain] view plaincopyprint?
  1. # flags 
  2. CC = g++ 
  3. CFS = -Wall -msse2 
  4.  
  5. # args 
  6. RELEASE =0 
  7. BITS = 
  8. CFLAGS = 
  9.  
  10. # [args] 生成模式. 0代表debug模式, 1代表release模式. make RELEASE=1. 
  11. ifeq ($(RELEASE),0) 
  12.     # debug 
  13.     CFS += -g 
  14. else 
  15.     # release 
  16.     CFS += -O3 -DNDEBUG 
  17.     //CFS += -O3 -g -DNDEBUG 
  18. endif 
  19.  
  20. # [args] 程序位数. 32代表32位程序, 64代表64位程序, 其他默认. make BITS=32. 
  21. ifeq ($(BITS),32) 
  22.     CFS += -m32 
  23. else 
  24.     ifeq ($(BITS),64) 
  25.         CFS += -m64 
  26.     else 
  27.     endif 
  28. endif 
  29.  
  30. # [args] 使用 CFLAGS 添加新的参数. make CFLAGS="-mavx". 
  31. CFS += $(CFLAGS) 
  32.  
  33.  
  34. .PHONY : all clean 
  35.  
  36. # files 
  37. TARGETS = simdsumdouble 
  38. OBJS = simdsumdouble.o 
  39.  
  40. all : $(TARGETS) 
  41.  
  42. simdsumdouble : $(OBJS) 
  43.     $(CC) $(CFS) -o $@ $^ 
  44.  
  45.  
  46. simdsumdouble.o : simdsumdouble.c zintrin.h ccpuid.h 
  47.     $(CC) $(CFS) -c $< 
  48.  
  49.  
  50. clean : 
  51.     rm -f $(OBJS) $(TARGETS) $(addsuffix .exe,$(TARGETS))  
# flags
CC = g++
CFS = -Wall -msse2

# args
RELEASE =0
BITS =
CFLAGS =

# [args] 生成模式. 0代表debug模式, 1代表release模式. make RELEASE=1.
ifeq ($(RELEASE),0)
	# debug
	CFS += -g
else
	# release
	CFS += -O3 -DNDEBUG
	//CFS += -O3 -g -DNDEBUG
endif

# [args] 程序位数. 32代表32位程序, 64代表64位程序, 其他默认. make BITS=32.
ifeq ($(BITS),32)
	CFS += -m32
else
	ifeq ($(BITS),64)
		CFS += -m64
	else
	endif
endif

# [args] 使用 CFLAGS 添加新的参数. make CFLAGS="-mavx".
CFS += $(CFLAGS)


.PHONY : all clean

# files
TARGETS = simdsumdouble
OBJS = simdsumdouble.o

all : $(TARGETS)

simdsumdouble : $(OBJS)
	$(CC) $(CFS) -o $@ $^


simdsumdouble.o : simdsumdouble.c zintrin.h ccpuid.h
	$(CC) $(CFS) -c $<


clean :
	rm -f $(OBJS) $(TARGETS) $(addsuffix .exe,$(TARGETS))

 

三、编译测试

3.1 编译

　　在以下编译器中成功编译—— VC6：x86版。 VC2003：x86版。 VC2005：x86版。 VC2010：x86版、x64版。 GCC 4.7.0（Fedora 17 x64）：x86版、x64版。 GCC 4.6.2（MinGW(20120426)）：x86版。 GCC 4.7.1（TDM-GCC(MinGW-w64)）：x86版、x64版。 llvm-gcc-4.2（Mac OS X Lion 10.7.4, Xcode 4.4.1）：x86版、x64版。

3.2 测试

　　因虚拟机上的有效率损失，于是仅在真实系统上进行测试。

　　系统环境—— CPU：Intel(R) Core(TM) i3-2310M CPU @ 2.10GHz 操作系统：Windows 7 SP1 x64版

　　然后分别运行VC与GCC编译的Release版可执行文件，即以下4个程序—— exe\simdsumdouble_vc32.exe：VC2010 SP1 编译的32位程序，/O2 /arch:SSE2。 exe\simdsumdouble_vc64.exe：VC2010 SP1 编译的64位程序，/O2 /arch:AVX。 exe\simdsumdouble_gcc32.exe：GCC 4.7.1（TDM-GCC(MinGW-w64)） 编译的32位程序，-O3 -mavx。 exe\simdsumdouble_gcc64.exe：GCC 4.7.1（TDM-GCC(MinGW-w64)） 编译的64位程序，-O3 -mavx。

　　测试结果（使用cmdarg_ui）——

 

参考文献—— 《Intel® 64 and IA-32 Architectures Software Developer’s Manual Combined Volumes:1, 2A, 2B, 2C, 3A, 3B, and 3C》044US. August 2012.http://www.intel.com/content/www/us/en/processors/architectures-software-developer-manuals.html 《Intel® Architecture Instruction Set Extensions Programming Reference》014. AUGUST 2012.http://software.intel.com/en-us/avx/ 《AMD64 Architecture Programmer’s Manual Volume 4: 128-Bit and 256-Bit Media Instructions》. December 2011.http://developer.amd.com/documentation/guides/Pages/default.aspx#manuals 《[C] 让VC、BCB支持C99的整数类型（stdint.h、inttypes.h）（兼容GCC）》. http://www.cnblogs.com/zyl910/archive/2012/08/08/c99int.html 《[C] zintrin.h: 智能引入intrinsic函数 V1.01版。改进对Mac OS X的支持，增加INTRIN_WORDSIZE宏》. http://www.cnblogs.com/zyl910/archive/2012/10/01/zintrin_v101.html 《[C/C++] ccpuid：CPUID信息模块 V1.03版，改进mmx/sse指令可用性检查（使用signal、setjmp，支持纯C）、修正AVX检查Bug》.http://www.cnblogs.com/zyl910/archive/2012/10/13/ccpuid_v103.html 《[x86]SIMD指令集发展历程表（MMX、SSE、AVX等）》. http://www.cnblogs.com/zyl910/archive/2012/02/26/x86_simd_table.html 《SIMD（MMX/SSE/AVX）变量命名规范心得》. http://www.cnblogs.com/zyl910/archive/2012/04/23/simd_var_name.html 《GCC 64位程序的makefile条件编译心得——32位版与64位版、debug版与release版（兼容MinGW、TDM-GCC）》. http://www.cnblogs.com/zyl910/archive/2012/08/14/gcc64_make.html 《[C#] cmdarg_ui：“简单参数命令行程序”的通用图形界面》.  http://www.cnblogs.com/zyl910/archive/2012/06/19/cmdarg_ui.html 《[C] 跨平台使用Intrinsic函数范例1——使用SSE、AVX指令集 处理 单精度浮点数组求和（支持vc、gcc，兼容Windows、Linux、Mac）》. http://www.cnblogs.com/zyl910/archive/2012/10/22/simdsumfloat.html

源码下载—— https://files.cnblogs.com/zyl910/simdsumdouble.rar

posted @ 2012-12-23 16:25  Goncely  阅读(388)  评论(0)    收藏  举报