等号赋值与memcpy的效率问题

转自:http://www.aiuxian.com/article/p-1309055.html

 

偶尔看到一个说法,说,小内存的拷贝,使用等号直接赋值比memcpy快得多。结合自己搜集到的资料,整理成此文。

事实:strcpy等函数的逐字节拷贝,memcpy是按照机器字长逐字进行拷贝的,一个字等于4(32位机)或8(64位机)个字节。CPU存取一个字节和存取一个字一样,都是在一条指令、一个内存周期内完成的。显然,按字拷贝效率更高。

先给出一个程序:

01 #include <stdio.h>
02 #define TESTSIZE        128
03 struct node {
04         char buf[TESTSIZE];
05 };
06 int main()
07 {
08         char src[TESTSIZE] = {0};
09         char dst[TESTSIZE];
10         *(struct node*)dst = *(struct node*)src;
11 }

编译:gcc -g -o test test.c

获得汇编:objdump -S test

可以看到有这么一些汇编,对应的是等号赋值操作:

*(struct node*)dst = *(struct node*)src;
  4004b6: 48 8d 85 00 ff ff ff  lea    0xffffffffffffff00(%rbp),%rax
  4004bd: 48 8d 55 80           lea    0xffffffffffffff80(%rbp),%rdx
  4004c1: 48 8b 0a              mov    (%rdx),%rcx
  4004c4: 48 89 08              mov    %rcx,(%rax)
  4004c7: 48 8b 4a 08           mov    0x8(%rdx),%rcx
  4004cb: 48 89 48 08           mov    %rcx,0x8(%rax)
  4004cf: 48 8b 4a 10           mov    0x10(%rdx),%rcx
  4004d3: 48 89 48 10           mov    %rcx,0x10(%rax)
  4004d7: 48 8b 4a 18           mov    0x18(%rdx),%rcx
  4004db: 48 89 48 18           mov    %rcx,0x18(%rax)
  4004df: 48 8b 4a 20           mov    0x20(%rdx),%rcx
  4004e3: 48 89 48 20           mov    %rcx,0x20(%rax)
  4004e7: 48 8b 4a 28           mov    0x28(%rdx),%rcx
  4004eb: 48 89 48 28           mov    %rcx,0x28(%rax)
  4004ef: 48 8b 4a 30           mov    0x30(%rdx),%rcx
  4004f3: 48 89 48 30           mov    %rcx,0x30(%rax)
  4004f7: 48 8b 4a 38           mov    0x38(%rdx),%rcx
  4004fb: 48 89 48 38           mov    %rcx,0x38(%rax)
  4004ff: 48 8b 4a 40           mov    0x40(%rdx),%rcx
  400503: 48 89 48 40           mov    %rcx,0x40(%rax)
  400507: 48 8b 4a 48           mov    0x48(%rdx),%rcx
  40050b: 48 89 48 48           mov    %rcx,0x48(%rax)
  40050f: 48 8b 4a 50           mov    0x50(%rdx),%rcx
  400513: 48 89 48 50           mov    %rcx,0x50(%rax)
  400517: 48 8b 4a 58           mov    0x58(%rdx),%rcx
  40051b: 48 89 48 58           mov    %rcx,0x58(%rax)
  40051f: 48 8b 4a 60           mov    0x60(%rdx),%rcx
  400523: 48 89 48 60           mov    %rcx,0x60(%rax)
  400527: 48 8b 4a 68           mov    0x68(%rdx),%rcx
  40052b: 48 89 48 68           mov    %rcx,0x68(%rax)
  40052f: 48 8b 4a 70           mov    0x70(%rdx),%rcx
  400533: 48 89 48 70           mov    %rcx,0x70(%rax)
  400537: 48 8b 52 78           mov    0x78(%rdx),%rdx
  40053b: 48 89 50 78           mov    %rdx,0x78(%rax)

获得libc的memcpy汇编代码:objdump -S /lib/libc.so.6

00973a30 <memcpy>:
  973a30:       8b 4c 24 0c             mov    0xc(%esp),%ecx
  973a34:       89 f8                   mov    %edi,%eax
  973a36:       8b 7c 24 04             mov    0x4(%esp),%edi
  973a3a:       89 f2                   mov    %esi,%edx
  973a3c:       8b 74 24 08             mov    0x8(%esp),%esi
  973a40:       fc                      cld
  973a41:       d1 e9                   shr    %ecx
  973a43:       73 01                   jae    973a46 <memcpy+0x16>
  973a45:       a4                      movsb  %ds:(%esi),%es:(%edi)
  973a46:       d1 e9                   shr    %ecx
  973a48:       73 02                   jae    973a4c <memcpy+0x1c>
  973a4a:       66 a5                   movsw  %ds:(%esi),%es:(%edi)
  973a4c:       f3 a5                   rep movsl %ds:(%esi),%es:(%edi)
  973a4e:       89 c7                   mov    %eax,%edi
  973a50:       89 d6                   mov    %edx,%esi
  973a52:       8b 44 24 04             mov    0x4(%esp),%eax
  973a56:       c3                      ret
  973a57:       90                      nop
原来两者都是通过逐字拷贝来实现的。但是“等号赋值”被编译器翻译成一连串的MOV指令,而memcpy则是一个循环。“等号赋值”比memcpy快,并不是快在拷贝方式上,而是快在程序流程上。
测试发现,“等号赋值”的长度必须小于等于128,并且是机器字长的倍数,才会被编译成连续MOV形式,否则会被编译成调用memcpy。而同样的,如果memcpy复制的长度小于等于128且是机器字长的整数倍,会被编译成MOV形式。所以,无论你的代码中如何写,编译器都会做好优化工作。
 
而为什么同样是按机器字长拷贝,连续的MOV指令就要比循环MOV快呢?
在循环方式下,每一次MOV过后,需要:1、判断是否拷贝完成;2、跳转以便继续拷贝。
循环还是比较浪费的。如果效率要求很高,很多情况下,我们需要把循环展开(比如在本例中,每次循环拷贝N个字节),以避免判断与跳转占用大量的CPU时间。这算是一种以空间换时间的做法。GCC就有自动将循环展开的编译选项(如:-funroll-loops)。
 
循环展开也是应该有个度的,并不是越展开越好(即使不考虑对空间的浪费)。因为CPU的快速执行很依赖于cache,如果cache不命中,CPU将浪费不少的时钟周期在等待内存上(内存的速度一般比CPU低一个数量级)。而小段循环结构就比较有利于cache命中,因为重复执行的一段代码很容易被硬件放在cache中,这就是代码局部性带来的好处。而过度的循环展开就打破了代码的局部性。如果要拷贝的字节更多,则全部展开成连续的MOV指令的做法未必会很高效。
综上所述,“等号赋值”之所以比memcpy快,就是因为它省略了CPU对于判断与跳转的处理,消除了分支对CPU流水的影响。而这一切都是通过适度展开内存拷贝的循环来实现的。
 
如果将libc的memcpy换成时等号循环赋值,效率会如何,程序如下timememcpy.c:
001 #include <stdio.h>
002 #include <string.h>
003 #include <stdlib.h>
004 #include <sys/time.h>
005  
006 #define LEN 0x20000
007 #define MYM 1
008 #define LIBM 0
009 char *dst;
010 char *src;
011  
012 typedef struct memcpy_data_size
013 {
014     int a[16];
015 }DATA_SIZE, *P_DATA_SIZE;
016  
017 void *mymemcpy(void *to, const void *from, size_t size)
018 {
019     P_DATA_SIZE dst = (P_DATA_SIZE)to;
020     P_DATA_SIZE src = (P_DATA_SIZE)from;
021  
022     int new_len  = size/sizeof(DATA_SIZE)-1;
023     int remain  = size%sizeof(DATA_SIZE)-1;
024      
025     while (new_len >= 1)
026     {
027         *dst++ = *src++;
028         new_len--;
029     }
030 #if 0
031     while (new_len >= 2)
032     {
033         *dst++ = *src++;
034         *dst++ = *src++;
035         new_len = new_len -2;
036     }
037     if(new_len == 1)
038     {
039         *dst++ = *src++;
040     }
041 #endif
042     while (remain >= 0)
043     {
044         *((char *)dst + remain) = *((char *)src + remain);
045         remain--;
046     }
047  
048     return to;
049 }
050  
051  
052 int main(int argc, char const* argv[])
053 {
054     int type = 0;
055     struct timeval start, end;
056     unsigned long diff;
057  
058     gettimeofday(&start, NULL);
059     if(argc != 2){
060         printf("you should run it as : ./run 1(or 0)\n");
061         printf("1: run my memcpy\n");
062         printf("0: run lib memcpy\n");
063         exit(0);
064     }
065     type = atoi(argv[1]);
066     if(MYM != type && LIBM != type){
067         printf("you should run it as : ./run 1(or 0)\n");
068         printf("1: run my memcpy\n");
069         printf("0: run lib memcpy\n");
070         exit(0);
071     }
072  
073     dst = malloc(sizeof(char)*LEN);
074     if (NULL == dst) {
075         perror("dst malloc");
076         exit(1);
077     }
078  
079     src = malloc(sizeof(char)*LEN);
080     if (NULL == src) {
081         perror("src malloc");
082         exit(1);
083     }
084     if(MYM == type){
085         mymemcpy(dst, src, LEN);
086         printf("my memcpy:\n");
087     }
088     else{
089         memcpy(dst, src, LEN); 
090         printf("lib memcpy:\n");
091     }
092     free(dst);
093     free(src);
094      
095     gettimeofday(&end, NULL);
096     diff = 1000000*(end.tv_sec - start.tv_sec)+ end.tv_usec - start.tv_usec;
097     printf("run time is %ld us\n",diff);
098      
099     return 0;
100 }

被注释掉的几行代码本来是用来循环展开的,可测试结果并没发现有什么好处,故,先注释掉。
在测试程序中,经过多次测试,并无法真正确定libc和自己实现的memcpy效率谁优谁劣。可能是由于运行时间太短以及进程调度所致。
 
目前为止,还没找到更好的测试方法,去验证效率的优劣。
现将我的测试数据粘贴至此,仅供参考:
编译程序:gcc -g -o timememcpy timememcpy.c
执行测试脚本为:run.sh
01 #!/bin/sh
02 ./timememcpy 1
03 ./timememcpy 1
04 ./timememcpy 1
05 ./timememcpy 1
06 ./timememcpy 1
07 ./timememcpy 0
08 ./timememcpy 0
09 ./timememcpy 0
10 ./timememcpy 0
11 ./timememcpy 0
运行该脚本,得结果如下:
[root@SPA c]# ./run.sh 
my memcpy: 
run time is 435 us 
my memcpy: 
run time is 237 us 
my memcpy: 
run time is 249 us 
my memcpy: 
run time is 304 us 
my memcpy: 
run time is 300 us 
lib memcpy: 
run time is 262 us 
lib memcpy: 
run time is 222 us 
lib memcpy: 
run time is 335 us 
lib memcpy: 
run time is 281 us 
lib memcpy: 
run time is 247 us
 脚本内容修改为:
01 #!/bin/sh
02 ./timememcpy 0
03 ./timememcpy 0
04 ./timememcpy 0
05 ./timememcpy 0
06 ./timememcpy 0
07 ./timememcpy 1
08 ./timememcpy 1
09 ./timememcpy 1
10 ./timememcpy 1
11 ./timememcpy 1

再次运行,得结果:
[root@SPA c]# ./run.sh 
lib memcpy: 
run time is 479 us 
lib memcpy: 
run time is 461 us 
lib memcpy: 
run time is 512 us 
lib memcpy: 
run time is 405 us 
lib memcpy: 
run time is 365 us 
my memcpy: 
run time is 399 us 
my memcpy: 
run time is 314 us 
my memcpy: 
run time is 309 us 
my memcpy: 
run time is 510 us 
my memcpy: 
run time is 324 us
参考:
注:这个程序是起了一个计数线程,与实际的memcpy线程并发执行。本人感觉运行时间这么短的程序,要是使用一个线程去计数的话,由于进程调度机制并无法保证计数线程和该程序运行时间相同,误差会更大,所以,在本文的程序中摒弃理论这种计数方式。
posted @ 2016-07-12 21:14  明明是悟空  阅读(6061)  评论(0编辑  收藏  举报