linux内存管理之malloc、vmalloc、kmalloc的区别

kmalloc kzalloc vmalloc malloc 和get_free_page()的区别

一、简述

1、 kmalloc申请的是较小的连续的物理内存,虚拟地址上也是连续的。kmalloc和get_free_page最终调用实现是相同的,只不过在调用最终函数时所传的flag不同而已。除非被阻塞否则他执行的速度非常快,而且不对获得空间清零。
2、get_free_page()申请的内存是一整页,一页的大小一般是128K。
3、kzalloc 先是用 kmalloc() 申请空间 , 然后用 memset() 清零来初始化 ,所有申请的元素都被初始化为 0.
4、vmalloc用于申请较大的内存空间,虚拟内存是连续,但是在物理上它们不要求连续。
5、malloc 用于用户空间申请内存。除非被阻塞否则他执行的速度非常快,而且不对获得空间清零。

二、先看看linux内存分布图:

图1:linux内存分布图

 

对于提供了MMU(存储管理器,辅助操作系统进行内存管理,提供虚实地址转换等硬件支持)的处理器而言,Linux提供了复杂的存储管理系统,使得进程所能访问的内存达到4GB。

      进程的4GB内存空间被人为的分为两个部分--用户空间与内核空间。用户空间地址分布从0到3GB(PAGE_OFFSET,在0x86中它等于0xC0000000),3GB到4GB为内核空间。

      内核空间中,从3G到vmalloc_start这段地址是物理内存映射区域(该区域中包含了内核镜像、物理页框表mem_map等等),比如我们使用 的 VMware虚拟系统内存是160M,那么3G~3G+160M这片内存就应该映射物理内存。在物理内存映射区之后,就是vmalloc区域。对于 160M的系统而言,vmalloc_start位置应在3G+160M附近(在物理内存映射区与vmalloc_start期间还存在一个8M的gap 来防止跃界),vmalloc_end的位置接近4G(最后位置系统会保留一片128k大小的区域用于专用页面映射)

1、kmalloc

kmalloc申请的是较小的连续的物理内存,内存物理地址上连续,虚拟地址上也是连续的,使用的是内存分配器slab的一小片。申请的内存位于物理内存的映射区域。其真正的物理地址只相差一个固定的偏移。可以用两个宏来简单转换__pa(address) { virt_to_phys()} 和__va(address) {phys_to_virt()}
get_free_page()申请的内存是一整页,一页的大小一般是128K。
从本质上讲,kmalloc和get_free_page最终调用实现是相同的,只不过在调用最终函数时所传的flag不同而已。

kmalloc和get_free_page申请的内存位于物理内存映射区域,而且在物理上也是连续的,它们与真实的物理地址只有一个固定的偏移,因此存在较简单的转换关系,virt_to_phys()可以实现内核虚拟地址转化为物理地址:
#define __pa(x) ((unsigned long)(x)-PAGE_OFFSET)
extern inline unsigned long virt_to_phys(volatile void * address)
{
 return __pa(address);
}
上面转换过程是将虚拟地址减去3G(PAGE_OFFSET=0XC000000)。

与之对应的函数为phys_to_virt(),将内核物理地址转化为虚拟地址:
#define __va(x) ((void *)((unsigned long)(x)+PAGE_OFFSET))
extern inline void * phys_to_virt(unsigned long address)
{
 return __va(address);
}
virt_to_phys()和phys_to_virt()都定义在include/asm-i386/io.h中。

1. kmalloc的用法
kmalloc与malloc 相似,该函数返回速度快快(除非它阻塞)并对其分配的内存不进行 初始化(清零),分配的区仍然持有它原来的内容, 分配的区也是在物理内存中连 续
记住 kmalloc 原型是:
#include <linux/slab。h>
void *kmalloc(size_t size, int flags);
给 kmalloc 的第一个参数是要分配的块的大小。 第 2 个参数, 分配标志, 用于控制 kmalloc的行为。
1.1. flags 参数
GFP_ATOMIC
用来从中断处理和进程上下文之外的其他代码中分配内存。 从不睡眠。
GFP_KERNEL
内核内存的正常分配。 可能睡眠。
GFP_USER
用来为用户空间页来分配内存; 它可能睡眠。
GFP_HIGHUSER
如同 GFP_USER, 但是从高端内存分配, 如果有。 高端内存在下一个子节描述。
GFP_NOIO

GFP_NOFS
这个标志功能如同 GFP_KERNEL, 但是它们增加限制到内核能做的来满足请求。 一个 GFP_NOFS 分配不允许进行任何文件系统调用, 而 GFP_NOIO 根本不允许任何 I/O 初始化。 它们主要地用在文件系统和虚拟内存代码, 那里允许一个分配睡眠, 但是递归的文件系统调用会是一个坏注意。
上面列出的这些分配标志可以是下列标志的相或来作为参数, 这些标志改变这些分配如何进行:
__GFP_DMA
这个标志要求分配在能够 DMA 的内存区。 确切的含义是平台依赖的并且在下面章节来解释。
__GFP_HIGHMEM
这个标志指示分配的内存可以位于高端内存。
__GFP_COLD
正常地, 内存分配器尽力返回"缓冲热"的页 -- 可能在处理器缓冲中找到的页。 相反, 这个标志请求一个"冷"页, 它在一段时间没被使用。 它对分配页作 DMA 读是有用的, 此时在处理器缓冲中出现是无用的。 一个完整的对如何分配 DMA 缓存的讨论看"直接内存存取"一节在第 1 章。
__GFP_NOWARN
这个很少用到的标志阻止内核来发出警告(使用 printk ), 当一个分配无法满足。
__GFP_HIGH
这个标志标识了一个高优先级请求, 它被允许来消耗甚至被内核保留给紧急状况的最后的内存页。
__GFP_REPEAT

__GFP_NOFAIL

__GFP_NORETRY
这些标志修改分配器如何动作, 当它有困难满足一个分配。 __GFP_REPEAT 意思是" 更尽力些尝试" 通过重复尝试 -- 但是分配可能仍然失败。 __GFP_NOFAIL 标志告诉分配器不要失败; 它尽最大努力来满足要求。 使用 __GFP_NOFAIL 是强烈不推荐的; 可能从不会有有效的理由在一个设备驱动中使用它。 最后, __GFP_NORETRY 告知分配器立即放弃如果得不到请求的内存。
1.2. size 参数
内核管理系统的物理内存, 这些物理内存只是以页大小的块来使用。 结果是, kmalloc 看来非常不同于一个典型的用户空间 malloc 实现。 一个简单的, 面向堆的分 配技术可能很快有麻烦; 它可能在解决页边界时有困难。 因而, 内核使用一个特殊的面向 页的分配技术来最好地利用系统RAM。
Linux 处理内存分配通过创建一套固定大小的内存对象池。 分配请求被这样来处理,进 入一个持有足够大的对象的池子并且将整个内存块递交给请求者。 内存管理方案是非常复 杂, 并且细节通常不是全部设备驱动编写者都感兴趣的。
然而, 驱动开发者应当记住的一件事情是, 内核只能分配某些预定义的, 固定大小的字 节数组。 如果你请求一个任意数量内存,你可能得到稍微多于你请求的, 至多是 2 倍数量。 同样, 程序员应当记住 kmalloc 能够处理的最小分配是 32 或者 64 字节,依赖系统的体 系所使用的页大小。
kmalloc 能够分配的内存块的大小有一个上限。 这个限制随着体系和内核配置选项而 变化。 如果你的代码是要完全可移植,它不能指望可以分配任何大于 128 KB。

2、kzalloc

用kzalloc申请内存的时候, 效果等同于先是用 kmalloc() 申请空间 然后用 memset() 来初始化 ,所有申请的元素都被初始化为 0.

 

  1. /** 
  2.  * kzalloc - allocate memory. The memory is set to zero. 
  3.  * @size: how many bytes of memory are required. 
  4.  * @flags: the type of memory to allocate (see kmalloc). 
  5.  */  
  6. static inline void *kzalloc(size_t size, gfp_t flags)  
  7. {  
  8.     return kmalloc(size, flags | __GFP_ZERO);  
  9. }  

kzalloc 函数是带参数调用kmalloc函数,添加的参数是或了标志位__GFP_ZERO,

  1. void *__kmalloc(size_t size, gfp_t flags)  
  2. {  
  3.     struct kmem_cache *s;  
  4.     void *ret;  
  5.   
  6.     if (unlikely(size > SLUB_MAX_SIZE))  
  7.         return kmalloc_large(size, flags);  
  8.   
  9.     s = get_slab(size, flags);  
  10.   
  11.     if (unlikely(ZERO_OR_NULL_PTR(s)))  
  12.         return s;  
  13.   
  14.     ret = slab_alloc(s, flags, -1, _RET_IP_);  
  15.   
  16.     trace_kmalloc(_RET_IP_, ret, size, s->size, flags);  
  17.   
  18.     return ret;  
  19. }  

这个函数调用trace_kmalloc,flags参数不变,继续往里面可以看到

 

 

  1. static __always_inline void *slab_alloc(struct kmem_cache *s,  
  2.         gfp_t gfpflags, int node, unsigned long addr)  
  3. {  
  4.     void **object;  
  5.     struct kmem_cache_cpu *c;  
  6.     unsigned long flags;  
  7.     unsigned int objsize;  
  8.   
  9.     gfpflags &= gfp_allowed_mask;  
  10.   
  11.     lockdep_trace_alloc(gfpflags);  
  12.     might_sleep_if(gfpflags & __GFP_WAIT);  
  13.   
  14.     if (should_failslab(s->objsize, gfpflags))  
  15.         return NULL;  
  16.   
  17.     local_irq_save(flags);  
  18.     c = get_cpu_slab(s, smp_processor_id());  
  19.     objsize = c->objsize;  
  20.     if (unlikely(!c->freelist || !node_match(c, node)))  
  21.   
  22.         object = __slab_alloc(s, gfpflags, node, addr, c);  
  23.   
  24.     else {  
  25.         object = c->freelist;  
  26.         c->freelist = object[c->offset];  
  27.         stat(c, ALLOC_FASTPATH);  
  28.     }  
  29.     local_irq_restore(flags);  
  30.   
  31.     if (unlikely((gfpflags & __GFP_ZERO) && object))  
  32.         memset(object, 0, objsize);  
  33.   
  34.     kmemcheck_slab_alloc(s, gfpflags, object, c->objsize);  
  35.     kmemleak_alloc_recursive(object, objsize, 1, s->flags, gfpflags);  
  36.   
  37.     return object;  
  38. }  

这里主要判断两个标志,WAIT和ZERO,和本文有关的关键代码就是

 

if (unlikely((gfpflags & __GFP_ZERO) && object))
memset(object, 0, objsize);

3、vmalloc

vmalloc用于申请较大的内存空间,虚拟内存是连续。申请的内存的则位于vmalloc_start~vmalloc_end之间,与物理地址没有简单的转换关系,虽然在逻辑上它们也是连续的,但是在物理上它们不要求连续。

以字节为单位进行分配,在<linux/vmalloc.h>
void *vmalloc(unsigned long size) 分配的内存虚拟地址上连续,物理地址不连续。
一般情况下,只有硬件设备才需要物理地址连续的内存,因为硬件设备往往存在于MMU之外,根本不了解虚拟地址;但为了性能上的考虑,内核中一般使用kmalloc(),而只有在需要获得大块内存时才使用vmalloc,例如当模块被动态加载到内核当中时,就把模块装载到由vmalloc()分配的内存上。

4、kmalloc、get_free_page和vmalloc的区别:

我们用下面的程序来演示kmalloc、get_free_page和vmalloc的区别:
#include <linux/module.h>
#include <linux/slab.h>
#include <linux/vmalloc.h>
MODULE_LICENSE("GPL");
unsigned char *pagemem;
unsigned char *kmallocmem;
unsigned char *vmallocmem;

int __init mem_module_init(void)
{
//最好每次内存申请都检查申请是否成功
//下面这段仅仅作为演示的代码没有检查
pagemem = (unsigned char*)get_free_page(0);
printk("<1>pagemem addr=%x", pagemem);

kmallocmem = (unsigned char*)kmalloc(100, 0);
printk("<1>kmallocmem addr=%x", kmallocmem);

vmallocmem = (unsigned char*)vmalloc(1000000);
printk("<1>vmallocmem addr=%x", vmallocmem);

return 0;
}

void __exit mem_module_exit(void)
{
free_page(pagemem);
kfree(kmallocmem);
vfree(vmallocmem);
}

module_init(mem_module_init);
module_exit(mem_module_exit);

我们的系统上有160MB的内存空间,运行一次上述程序,发现pagemem的地址在0xc7997000(约3G+121M)、kmallocmem 地址在0xc9bc1380(约3G+155M)、vmallocmem的地址在0xcabeb000(约3G+171M)处,符合前文所述的内存布局。
 

5、malloc

malloc内存分配和Kmalloc相似,除非被阻塞否则他执行的速度非常快,而且不对获得空间清零。
malloc分配的是用户的内存。
使用 void *malloc(size_t size)
 
 
本文参考资料:
感谢以上作者的分享

 

 

 

 

linux内存管理之malloc、vmalloc、kmalloc的区别

1、kmalloc和vmalloc是分配的是内核的内存,malloc分配的是用户的内存
2、kmalloc保证分配的内存在物理上是连续的,内存只有在要被DMA访问的时候才需要物理上连续,malloc和vmalloc保证的是在虚拟地址空间上的连续

3、kmalloc能分配的大小有限,vmalloc和malloc能分配的大小相对较大

4、vmalloc比kmalloc要慢。尽管在某些情况下才需要物理上连续的内存块,但是很多内核代码都用kmalloc来获得内存,而不是vmalloc。这主要是出于性能的考虑。vmalloc函数为了把物理内存上不连续的页转换为虚拟地址空间上连续的页,必须专门建立页表项。糟糕的是,通过vmalloc获得的页必须一个个地进行映射,因为它们物理上是不连续的,这就会导致比直接内存映射大得多的TLB抖动,vmalloc仅在不得已时才会用--典型的就是为了获得大块内存时。

 

malloc的实现原理

malloc函数的实质体现在,它有一个将可用的内存块连接为一个长长的列表的所谓空闲链表(全局变量,一个内存块的链表指针)。调用malloc函数时,它沿连接表寻找一个大到足以满足用户请求所需要的内存块。然后,将该内存块一分为二(一块的大小与用户请求的大小相等,另一块的大小就是剩下的字节)。接下来,将分配给用户的那块内存传给用户,并将剩下的那块(如果有的话)返回到连接表上。调用free函数时,它将用户释放的内存块连接到空闲链上。到最后,空闲链会被切成很多的小内存片段,如果这时用户申请一个大的内存片段,那么空闲链上可能没有可以满足用户要求的片段了。于是,malloc函数请求延时,并开始在空闲链上翻箱倒柜地检查各内存片段,对它们进行整理,将相邻的小空闲块合并成较大的内存块。  malloc()在操作系统中的实现    在 C 程序中,多次使用malloc () 和 free()。不过,您可能没有用一些时间去思考它们在您的操作系统中是如何实现的。本节将向您展示 malloc 和 free 的一个最简化实现的代码,来帮助说明管理内存时都涉及到了哪些事情。   在大部分操作系统中,内存分配由以下两个简单的函数来处理:    void *malloc (long numbytes):该函数负责分配 numbytes 大小的内存,并返回指向第一个字节的指针。    void free(void *firstbyte):如果给定一个由先前的 malloc 返回的指针,那么该函数会将分配的空间归还给进程的“空闲空间”。

 

malloc_init 将是初始化内存分配程序的函数。它要完成以下三件事:将分配程序标识为已经初始化,找到系统中最后一个有效内存地址,然后建立起指向我们管理的内存的指针。这三个变量都是全局变量:

如前所述,被映射的内存的边界(最后一个有效地址)常被称为系统中断点或者当前中断点。在很多 UNIX? 系统中,为了指出当前系统中断点,必须使用sbrk(0) 函数。 sbrk 根据参数中给出的字节数移动当前系统中断点,然后返回新的系统中断点。使用参数 0 只是返回当前中断点。这里是我们的 malloc 初始化代码,它将找到当前中断点并初始化我们的变量


现在,为了完全地管理内存,我们需要能够追踪要分配和回收哪些内存。在对内存块进行了 free 调用之后,我们需要做的是诸如将它们标记为未被使用的等事情, 并且, 在调用 malloc 时, 我们要能够定位未被使用的内存块。 因此, malloc返回的每块内存的起始处首先要有这个结构:


现在, 您可能会认为当程序调用 malloc 时这会引发问题 —— 它们如何知道这个结构?答案是它们不必知道;在返回指针之前,我们会将其移动到这个结构之后, 把它隐藏起来。 这使得返回的指针指向没有用于任何其他用途的内存。 那样,从调用程序的角度来看,它们所得到的全部是空闲的、开放的内存。然后,当通过 free() 将该指针传递回来时,我们只需要倒退几个内存字节就可以再次找到这个结构。在讨论分配内存之前,我们将先讨论释放,因为它更简单。为了释放内存,我们必须要做的惟一一件事情就是,获得我们给出的指针,回退 sizeof(structmem_control_block) 个字节,并将其标记为可用的。这里是对应的代码:


如您所见,在这个分配程序中,内存的释放使用了一个非常简单的机制,在固定时间内完成内存释放。分配内存稍微困难一些。我们主要使用连接的指针遍历内存来寻找开放的内存块。这里是代码:



 




这就是我们的内存管理器。现在,我们只需要构建它,并在程序中使用它即可.多次调用 malloc()后空闲内存被切成很多的小内存片段,这就使得用户在申请内存使用时,由于找不到足够大的内存空间,malloc()需要进行内存整理,使得函数的性能越来越低。聪明的程序员通过总是分配大小为 2 的幂的内存块,而最大限度地降低潜在的 malloc 性能丧失。也就是说,所分配的内存块大小为4 字节、8 字节、16 字节、18446744073709551616 字节,等等。这样做最大限度地减少了进入空闲链的怪异片段(各种尺寸的小片段都有)的数量。尽管看起来这好像浪费了空间,但也容易看出浪费的空间永远不会超过 50%。

 

posted on 2018-05-07 07:10  AlanTu  阅读(3393)  评论(0编辑  收藏  举报

导航