KVM虚拟化技术

一、KVM概述

1、KVM

     Kernel-based Virtual Machine 基于内核的虚拟机

     以色列Qumranet公司研发,是内核的一个模块

     2006年研发,2008被RedHat收购了

     依赖于HVM技术:Intel VT-X,AMD AMD-V

2、KVM模块载入后的系统运行模式

内核模式:GuestOS执行I/O类操作,或其它的特殊指令的操作  

用户模式:代表GuestOS代为请求I/O类操作,

来宾(guest)模式:GuestOS的非I/O类操作,事实上,它被称作虚拟机的用户模式

3、KVM的组件

两类组件:

      /dev/kvm:工作于hypervisor,在用户空间可通过ioctl()系统调用来完成VM创建,启动等管理功能,它是一个字符设备,

                     功能:创建VM,为VM分配内存,读写VCPU的寄存器,向CPU注入中断,运行VCPU等

    qemu进程:工作于用户空间,主要用于实现模拟PC机的I/O设备

4、KVM特性

1)内存管理

          将分配给VM的内存交换至SWAP

          支持使用Huge Page(大内存页);

          支持使用Intel EPT或AMD RVI技术完成内存地址映射:GVA-->GPA-->HPA简化为GVA-->HPA

          支持KSM (Kernel Same-page Merging)

                   这个内核特性实现了内存页面共享。KSM通过扫描每个虚拟机的内存查找各虚拟机间相同的内存页,并将这些内存页合并为一个被各相关虚拟机共享的单独页面。在某虚拟机试图修改此页面中的数据时,KSM会重新为其提供一个新的页面副本。实践中,运行于同一台物理主机上的具有相同GuestOS的虚拟机之间出现相同内存页面的概率是很的,比如共享库、内核或其它内存对象等都有可能表现为相同的内存页,因此,KSM技术可以降低内存占用进而提高整体性能。

2)硬件支持

   取决于Linux内核;

3)存储:

本地存储:

网络附加存储:

存储区域网络:

分布式存储:例如GlustFS

4)实时迁移:

支持的GuestOS:

       Linux, Windows, OpenBSD, FreeBSD, OpenSolaris; 

5)设备驱动:

IO设备的完全虚拟化:模拟硬件

IO设备的半虚拟化:在GuestOS中安装驱动;virtio

               virtio-blk, virtio-net, virtio-pci, virtio-console, virtio-ballon

 

5、KVM局限性

一般局限性:

CPU overcommit

时间记录难以精确,依赖于时间同步机制

MAC地址:

VM量特别大时,存在冲突的可能性;

实时迁移:

性能局限性:

 

6、KVM的工具栈介绍

分为2大类:

qemu:

       qemu-kvm

       qemu-img

libvirt

       GUI: virt-manager, virt-viewer

       CLI: virt-install, virsh

 

QEMU主要提供了以下几个部分:

        处理器模拟器

        仿真IO设备

       关联模拟的设备至真实设备;

       调试器

      与模拟器交互的用户接口

 

 

补充资料:

VMM:对IO的驱动有三种模式:

自主VMM:VMM自行提供驱动和控制台;

混合VMM:借助于OS提供驱动;

                   依赖于外部OS实现特权域

                    自我提供特权域

寄宿式VMM:

 

二、KVM安装

1、安装kvm

1) 确保CPU支持HVM

# grep -E --color=auto "(vmx|svm)" /proc/cpuinfo

2) 装载模块

 

1
2
3
4
5
6
7
8
9
[root@BAIYU_180 ~]# lsmod
Module                  Size  Used by
ppdev                   8537  0 
vmware_balloon          7199  0 
parport_pc             22690  0 
parport                36209  2 ppdev,parport_pc
microcode             112685  0 
snd_ens1371            21587  0 
snd_rawmidi            23017  1 snd_ens1371

# modprobe kvm

# modprobe kvm-intel

1
2
3
4
5
6
7
8
9
10
11
12
13
[root@BAIYU_173 kvm]# lsmod
Module                  Size  Used by
nls_utf8                1455  1 
ipv6                  335589  142 
vhost_net              29185  0 
macvtap                10551  1 vhost_net
macvlan                10324  1 macvtap
tun                    16934  1 vhost_net
kvm_intel              55624  0 
kvm                   341551  1 kvm_intel
ppdev                   8217  0 
parport_pc             22658  0 
parport                36209  2 ppdev,parport_pc

3) 验正:

/dev/kvm

 

 

三、kvm管理工具栈使用

1
2
3
4
5
6
7
8
9
# yum grouplist | grep -i "virtualization"    #查看和虚拟化相关的所有包组
   Virtualization:
                 qemu-kvm
   Virtualization Client:
                  python-virtinst, virt-manager, virt-viewer
   Virtualization Platform:
                  libvirt, libvirt-client
   Virtualization Tools   #可以不用
                   libguestfs

1、使用qemu-kvm管理工具

 

     基于libvirt的工具如virt-manager和virt-install提供了非常便捷的虚拟机管理接口,但它们事实上上经二次开发后又封装了qemu-kvm的工具。因此,直接使用qemu-kvm命令也能够完成此前的任务。

   在RHEL6上,qemu-kvm位于/usr/libexec目录中。由于此目录不属于PATH环境变量,故无法直接使用,这样也阻止了可以直接使用qemu作为创建并管理虚拟机。如若想使用qemu虚拟机,可以通过将/usr/libexec/qemu-kvm链接为/usr/bin/qemu实现。

1)安装qemu-kvm

#yum install qemu-kvm

# ln  -sv  /usr/libexec/qemu-kvm  /usr/bin/qemu-kvm

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
[root@BAIYU_173 ~]# yum install qemu-kvm
Dependencies Resolved
 
========================================================================================================
 Package                          Arch           Version                          Repository       Size
========================================================================================================
Installing:
 qemu-kvm                         x86_64         2:0.12.1.2-2.491.el6_8.1         updates         1.6 M
Installing for dependencies:
 celt051                          x86_64         0.5.1.3-0.el6                    base             50 k
 glusterfs                        x86_64         3.7.5-19.el6                     base            392 k
 glusterfs-api                    x86_64         3.7.5-19.el6                     base             56 k
 glusterfs-client-xlators         x86_64         3.7.5-19.el6                     base            942 k
 glusterfs-libs                   x86_64         3.7.5-19.el6                     base            303 k
 gpxe-roms-qemu                   noarch         0.9.7-6.15.el6                   base            220 k
 qemu-img                         x86_64         2:0.12.1.2-2.491.el6_8.1         updates         837 k
 seabios                          x86_64         0.6.1.2-30.el6                   base             93 k
 sgabios-bin                      noarch         0-0.3.20110621svn.el6            base            6.6 k
 spice-server                     x86_64         0.12.4-13.el6.1                  updates         346 k
 usbredir                         x86_64         0.5.1-3.el6                      base             41 k
 vgabios                          noarch         0.6b-3.7.el6                     base             42 k
 
Transaction Summary
========================================================================================================
Install      13 Package(s)
 
[root@BAIYU_173 ~]# rpm -ql qemu-kvm
/etc/ksmtuned.conf
/etc/modprobe.d/blacklist-kvm.conf
/etc/rc.d/init.d/ksm
/etc/rc.d/init.d/ksmtuned
/etc/sasl2/qemu-kvm.conf
/etc/sysconfig/ksm
/etc/sysconfig/modules/kvm.modules
/etc/udev/rules.d/80-kvm.rules
/usr/libexec/qemu-kvm
/usr/sbin/ksmtuned
/usr/share/doc/qemu-kvm-0.12.1.2/COPYING

 

2)qemu-kvm的使用

qemu-kvm命令使用格式为:

   “qemu-kvm  [options]  [disk_image]”

其选项非常多,不过,大致可分为如下几类。

命令选项:

       标准选项:

       显示选项:

       i386平台专用选项

       字符设备选项

       蓝牙设备选项

       Linux启动专用选项

       调试/专家模式选项

 

cirros project:为cloud环境测试vm提供的微缩版Linux的磁盘映像文件

                        官网下载地址:http://download.cirros-cloud.net/

创建并启动虚拟机:

qemu-kvm -m 128 -smp 2 -name test -hda /images/kvm/cirros-0.3.4-i386.disk.img

 

用-drive指定磁盘映像文件:

qemu-kvm -m 128 -name test -smp 2 -drive file=/images/kvm/cirros-0.3.4-i386-disk.img,if=virtio,media=disk,cache=writeback,format=qcow2

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
[root@BAIYU_173 ~]# cd /images/kvm/
[root@BAIYU_173 kvm]# ls
cirros-0.3.4-x86_64-disk.img
[root@BAIYU_173 kvm]# qemu-kvm -m 128 -smp 2 -name test -hda /images/kvm/cirros-0.3.4-x86_64-disk.img 
VNC server running on `::1:5900'    #这里启动了VNC server
可以查看到:
[root@BAIYU_173 ~]# netstat -nlptu|grep 5900
tcp        0      0 ::1:5900                    :::*                        LISTEN      3191/qemu-kvm       
[root@BAIYU_173 ~]# ps aux|grep qemu-kvm
root      3191 15.0  8.1 492796 82944 pts/3    Sl+  22:39   0:14 qemu-kvm -m 128 -smp 2 -name test -hda /images/kvm/cirros-0.3.4-x86_64-disk.img
root      3242  0.0  0.0 103324   860 pts/0    S+   22:41   0:00 grep qemu-kvm
 
[root@BAIYU_73 ~]# yum install tigervnc   #安装vnc客户端
[root@BAIYU_173 ~]# rpm -ql tigervnc
/usr/bin/vncviewer
/usr/share/applications/vncviewer.desktop
/usr/share/doc/tigervnc-1.1.0
[root@BAIYU_173 ~]# vncviewer localhost  #连上看看

 wKioL1eWu-LhpqQyAACpqBX8Fi8190.png

按ctrl+alt+2可以跳转到控制页面,可以查看虚拟机的信息,再按ctrl+alt+1可以跳转回来

 

qemu-kvm的标准选项:

        主要涉及指定主机类型、CPU模式、NUMA、软驱设备、光驱设备及硬件设备等。

-name name:设定虚拟机名称;

-M machine:指定要模拟的主机类型,如Standard PC、ISA-only PC或Intel-Mac等,可以使用“qemu-kvm -M ?”获取所支持的所有类型;

-m megs:设定虚拟机的RAM大小;

-cpu model:设定CPU模型,如coreduo、qemu64等,可以使用“qemu-kvm -cpu ?”获取所支持的所有模型;

-smp n[,cores=cores][,threads=threads][,sockets=sockets][,maxcpus=maxcpus]:设定模拟的SMP架构中CPU的个数等、每个CPU的核心数及CPU的socket数目等;PC机上最多可以模拟255颗CPU;maxcpus用于指定热插入的CPU个数上限;

-numa opts:指定模拟多节点的numa设备;

-fda file

-fdb file:使用指定文件(file)作为软盘镜像,file为/dev/fd0表示使用物理软驱;

-hda file

-hdb file

-hdc file

-hdd file:使用指定file作为硬盘镜像;

-cdrom file:使用指定file作为CD-ROM镜像,需要注意的是-cdrom和-hdc不能同时使用;将file指定为/dev/cdrom可以直接使用物理光驱;    #这个选项不知道怎么用,

-drive option[,option[,option[,...]]]:定义一个硬盘设备;可用子选项有很多。

file=/path/to/somefile:硬件映像文件路径;

if=interface:指定硬盘设备所连接的接口类型,即控制器类型,如ide、scsi、sd、mtd、floppy、pflash及virtio等;

index=index:设定同一种控制器类型中不同设备的索引号,即标识号;

media=media:定义介质类型为硬盘(disk)还是光盘(cdrom);

snapshot=snapshot:指定当前硬盘设备是否支持快照功能:on或off;

cache=cache:定义如何使用物理机缓存来访问块数据,其可用值有none、writeback、unsafe和writethrough四个;

format=format:指定映像文件的格式,具体格式可参见qemu-img命令;

-boot [order=drives][,once=drives][,menu=on|off]:定义启动设备的引导次序,每种设备使用一个字符表示;不同的架构所支持的设备及其表示字符不尽相同,在x86 PC架构上,a、b表示软驱、c表示第一块硬盘,d表示第一个光驱设备,n-p表示网络适配器;默认为硬盘设备;

例如:-boot order(引导顺序)=dc,once(第一次启动时才使用)=d

我们用-drive选项来重新创建虚拟机:                     

1
2
3
4
5
6
[root@BAIYU_173 kvm]# qemu-img info cirros-0.3.4-x86_64-disk.img  #查看磁盘映像文件的格式
image: cirros-0.3.4-x86_64-disk.img
file format: qcow2
virtual size: 39M (41126400 bytes)
disk size: 14M
cluster_size: 65536

 

 

通过cdrom启动win7的安装

qemu-kvm -name winxp -smp 4,sockets=1,cores=2,threads=2 -m 512 -drive file=/images/kvm/winxp.img,if=ide,media=disk,cache=writeback,format=qcow2 -drive file=/root/winxp_ghost.iso,media=cdrom

 

(1)准备磁盘映像文件

1
2
[root@BAIYU_173 ~]# qemu-img create -f qcow2 -o size=60G /images/kvm/win7.img
Formatting '/images/kvm/win7.img'fmt=qcow2 size=64424509440 encryption=off cluster_size=65536

(2)上传win7的安装文件

(3)创建并启动win7

1
[root@BAIYU_173 kvm]#  qemu-kvm -name win7 -smp 2 -m 1024 -drive file=/images/kvm/win7.img,if=ide,media=disk,cache=writeback,format=qcow2 -drive file=/root/cn_windows_7_ultimate_with_sp1_x64_dvd_u_677408.iso,media=cdrom -boot order=dc,once=d

  

qemu-kvm的显示选项:

  显示选项用于定义虚拟机启动后的显示接口相关类型及属性等。

-nographic:默认情况下,qemu使用SDL来显示VGA输出;而此选项用于禁止图形接口,此时,

qemu类似一个简单的命令行程序,其仿真串口设备将被重定向到控制台

此时可以使用的命令:

1
2
3
4
5
6
7
C-a h    print this help
C-a x    exit emulator
C-a s    save disk data back to file (if -snapshot)
C-a t    toggle console timestamps
C-a b    send break (magic sysrq)
C-a c    switch between console and monitor
C-a C-a  sends C-a

 

SDL: Simple DirectMedia Layer:简单直接介质层   C语言开发,跨平台且开源多媒体程序库文件;

在qemu中使用“-sdl”即可;  #centos默认不支持

VNC: Virtual Network Computing:虚拟网络计算   使用RFB(Remote FrameBuffer远程帧缓冲)协议远程控制另外的主机;

CentOS 6.6启用vnc

    (1) yum install tigervnc-server

    (2) vncpasswd

    (3) vncserver :N   #启动某一桌面

 

qemu-kvm

-vnc display(地址+某个桌面),option,option

 

示例:-vnc :N[,password]

                      启动qemu-kvm时,额外使用-monitor stdio选项,并使用

                       QEMU模式下使用change vnc password命令设置密码;

 

qemu-kvm的网络属性相关选项

   网络属性相关选项用于定义网络设备接口类型及其相关的各属性等信息。

这里只介绍nic、tap和user三种类型网络接口的属性,其它类型请参照qemu-kvm手册。

-net nic[,vlan=n][,macaddr=mac][,model=type][,name=name][,addr=addr][,vectors=v]:

创建一个新的网卡设备并连接至vlan n中;PC架构上默认的NIC为e1000,macaddr用于为其指定MAC地址,name用于指定一个在监控时显示的网上设备名称;emu可以模拟多个类型的网卡设备,如virtio、i82551、i82557b、i82559er、ne2k_isa、pcnet、rtl8139、e1000、smc91c111、lance及mcf_fec等;不过,不同平台架构上,其支持的类型可能只包含前述列表的一部分,可以使用“qemu-kvm -net nic,model=?”来获取当前平台支持的类型;

-net tap[,vlan=n][,name=name][,fd=h][,ifname=name][,script=file][,downscript=dfile]:

通过物理机的TAP网络接口连接至vlan n中,使用script=file指定的脚本(默认为/etc/qemu-ifup)来配置当前网络接口,ifname用于指定网卡名称,并使用downscript=file指定的脚本(默认为/etc/qemu-ifdown)来撤消接口配置;使用script=no和downscript=no可分别用来禁止执行脚本;

如果创建虚拟机时没有指定-net选项也会默认创建一个-net user类型的网卡

-net user[,option][,option][,...]:在用户模式配置网络栈,其不依赖于管理权限;

有效选项有:

vlan=n:连接至vlan n,默认n=0;

name=name:指定接口的显示名称,常用于监控模式中;

net=addr[/mask]:设定GuestOS可见的IP网络,掩码可选,默认为10.0.2.0/8;

host=addr:指定GuestOS中看到的物理机的IP地址,默认为指定网络中的第二个,即x.x.x.2;

dhcpstart=addr:指定DHCP服务地址池中16个地址的起始IP,默认为第16个至第31个,即x.x.x.16-x.x.x.31;

dns=addr:指定GuestOS可见的dns服务器地址;默认为GuestOS网络中的第三个地址,即x.x.x.3;

tftp=dir:激活内置的tftp服务器,并使用指定的dir作为tftp服务器的默认根目录;

bootfile=file:BOOTP文件名称,用于实现网络引导GuestOS;如:qemu -hda linux.img -boot n -net user,tftp=/tftpserver/pub,bootfile=/pxelinux.0

 

qemu-ifup和qemu-ifdown脚本:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
# cat /etc/qemu-ifup 
#!/bin/bash
#
bridge=br0       #bro要事先创建好
 
if [ -n "$1" ]; then
ip link set $1 up
sleep 1
brctl addif $bridge $1
[ $? -eq 0 ] && exit 0 || exit 1
else
echo "Error: no interface specified."  #执行时后面接网卡接口
exit 1
fi

 

1
2
3
4
5
6
7
8
9
10
11
12
# cat /etc/qemu-ifdown 
#!/bin/bash
#
bridge=br0
if [ -n "$1" ];then
brctl delif $bridge $1
ip link set $1 down
exit 0
else
    echo "Error: no interface specified."   #执行时后面接网卡接口
exit 1
fi

 

指定使用桥接网络接口:

     qemu-kvm -m 128 -name test -smp 2 -drive file=/images/kvm/cirros-0.3.4-i386-disk.img,if=virtio,media=disk,cache=writeback,format=qcow2 -net nic -net tap,script=/etc/if-up,downscript=no -nographic

 

四、总结一下这篇博文的内容

1、kvm组成部分:

/dev/kvm

qemu

 

2、安装KVM需要装载的模块:

modprobe kvm

modprobe kvm-intel|kvm-amd

 

3、KVM工具栈:

qemu-kvm, /usr/libexec

libvirt:

GUI: virt-manager

CLI: virt-install, virsh

 

qemu-kvm

-name 'NAME'

-m megs

-cpu ?

-smp n[,sockets=N][,cores=N][,threads=N][,maxcpus=N]

-hda|-hdb|-hdc|-hdd

-cdrom

-drive 

file=, media=, if=, cache=, format=, index=, readonly  #只读方式打开,后面不用接参数

-boot [order=drives][,once=drives][,menu=on|off]

-sdl

-vnc :0,password

-nographic

-monitor stdio       #不打开窗口,在本地显示监视器的画面,

-usbdevice tablet    #解决虚拟机中鼠标不同步问题

 

 

一、KVM的网络功能详解

 

1、qemu-kvm所提供的网络模式

 

基于网桥的虚拟网卡;                        #这里说的网桥并不一定就是指桥接,比如还有虚拟通道(隔离)

 

                          使用-net tap命令指明,

 

基于NAT的虚拟网络;

 

Qemu内置的用户网络模式;                 #普通用户也可以使用

 

                              -net user                     

 

直接分配网络设备(VT-d, SR-IOV)           #透传机制

 

 

 

-net nic:为VM添加虚拟网卡             并指明虚拟网卡特性

 

-net tap 或 -net user(用的少) : 定义虚拟网络       并指定如何将VM的虚拟网卡连入虚拟网络

 

-net none: 禁用vm的网络功能

 

 

 

常见的用法:

 

-net nic -net tap 或者 -net nic -net user

 

 

 

-net nic[,vlan=n][,macaddr=mac][,model=type][,name=name][,addr=addr][,vectors=v]

 

vlan指连接到哪个vlan,默认为0或者没使用vlan技术

 

model是指虚拟网卡的型号

 

addr是指网卡在客户机中pci总线接口上的地址

 

查看本机的qemu-kvm支持网络接口类型:

 

1
2
[root@BAIYU_173 ~]# qemu-kvm -net nic,model=?
qemu: Supported NIC models: ne2k_pci,i82551,i82557b,i82559er,rtl8139,e1000,pcnet,virtio

 

CentOS6中默认的类型是e1000

 

-net nic的常见用法:

 

-net nic,model=virtio

 

建议使用virtio,

 

       虚拟化技术都用到了半虚拟化驱动,若要在不同虚拟化架构之间迁移虚拟机,这些半虚拟化驱动将必然带来兼容性问题。因此,RedHat 和IBM 联合 Linux 社区推出 VirtIO 半虚拟化驱动开发标准,基于 VirtIO 的半虚拟化驱动独立于 Hypervisor,跨平台迁移时半虚拟化驱 动仍可重用,使得不同虚拟化架构之间更容易实现互操作。

 

 

 

注意:

 

(1) 如果需要为VM添加多块网卡,则要多使用“-net nic”选项;

 

(2) 需要为VM的网卡指定MAC地址,地址范围属于“52:54:00”开头的地址块;

 

 

 

-net tap[,vlan=n][,name=name][,fd=h][,ifname=name][,script=file][,downscript=dfile]

 

name是在qemu monitor中显示的名称

 

ifname在vmm中显示的名称,默认是tap0,tap1

 

script=/path/to/some_script:虚拟机启动时,tap为其创建的Nic的后半段会保留在host上,在host之上通常需要将其添加至某桥上,实现虚拟网络功能;

 

downscript=/path/to/some_script: 虚拟机关闭时,如果处理此前的启动脚本为其设置网络;一般会自动拆除,可以设置为downscript=no

 

 

 

2、kvm常用的虚拟网络模型

 

桥接模型

 

NAT模型

 

路由模型

 

隔离模型

 

 

 

二、virtio半虚拟化

 

1、I/O半虚拟化分成两段

 

前端驱动(virtio前半段):

 

       virtio-blk, virtio-net, virtio-pci, virtio-balloon, virtio-console

 

       Linux:CentOS 4.8+, 5.3+, 6.0+, 7.0+  内核收入,直接支持virtio驱动,

 

       Windows:要下载驱动程序,

 

 

 

virtio: 虚拟队列,virt-ring提供,环状缓冲区

 

transport:

 

后端处理程序(virt backend drivers):

 

       在QEMU中实现;

 

 

 

2、virtio-balloon

 

ballooning: 让VM中运行的GuestOS中运行调整其内存大小;

 

使用ballooning:

 

# qemu-kvm  -balloon virtio

 

手动查看GuestOS的内存用量:

 

info balloon

 

balloon N

 

 

 

3、virtio-net

 

其依赖于GuestOS中的驱动,及Qemu中的后端驱动

 

GuestOS: virtio_net.ko 内核驱动模块

 

Qemu: qemu-kvm -net nic,model=?

 

 

 

qemu-kvm  -net nic,model=virtio

 

 

 

Host中的GSO, TSO

 

关掉可能会提升性能:

 

ethtool -k $IF                   #查看是小k

 

ethtool -K $IF gso off      #设置是大K

 

ethtool -K $IF tso off

 

 

 

vhost-net:用于取代工作于用户空间的qemu中为virtio-net实现的后端驱动以实现性能提升的驱动;

 

使用方式:

 

-net tap[,vnet_hdr=on|off][,vhost=on|off]

 

qemu-kvm -net tap,vnet_hdr=on,vhost=on

 

 

 

4、virtio-blk

 

其依赖于GuestOS中的驱动,及Qemu中的后端驱动

 

使用方式: 

 

 -drive file=/path/to/some_image_file,if=virtio

 

 

 

5、kvm_clock:半虚拟化的时钟

 

查看系统内核是否支持kvm_clock   #默认支持

 

 

 

1
2
3
4
# grep -i "paravirt" /boot/config-2.6.32-504.el6.x86_64 
CONFIG_PARAVIRT_GUEST=y
CONFIG_PARAVIRT=y
CONFIG_PARAVIRT_CLOCK=y

 

 

 

三、VM Migration(迁移)

 

static migration:

 

        静态迁移,关机后迁移

 

live migration 

 

        在线(动态)迁移,但迁移过程中服务可能不可用

 

评估动态迁移的性能:

 

          整体迁移时间

 

          服务器停机时间

 

          对服务的性能的影响

 

 

 

在待迁入主机使用:

 

# qemu-kvm    -vnc :N -incoming tcp:0:7777

 

# vncviewer :590N

 

 

 

在源主机使用:

 

       monitor接口:

 

             migrate tcp:DEST_IP:DESTPORT

 

注意:如果使用透传技术,迁移将无法实现

 

四、libvirt工具栈

 

支持的虚拟化技术:kvm,xen,lxc,vmware,qemu,openvz

 

1、libvirt中的术语

 

node:指物理节点

 

hypervisor:虚拟机监视器,运行了hypervisor的物理节点

 

domain:vm instances   虚拟机实例

 

rhel或centos自带的libvirt只支持kvm,不支持xen

 

2、安装libvirt

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
[root@BAIYU_173 ~]# yum install libvirt libvirt-client
 
[root@BAIYU_173 ~]# rpm -ql libvirt
/etc/libvirt
/etc/libvirt/libvirtd.conf
/etc/libvirt/lxc.conf
/etc/libvirt/nwfilter
/etc/libvirt/nwfilter/allow-arp.xml
/etc/libvirt/nwfilter/allow-dhcp-server.xml
/etc/libvirt/nwfilter/allow-dhcp.xml
/etc/libvirt/nwfilter/allow-incoming-ipv4.xml
/etc/libvirt/nwfilter/allow-ipv4.xml
/etc/libvirt/nwfilter/clean-traffic.xml
/etc/libvirt/nwfilter/no-arp-ip-spoofing.xml
/etc/libvirt/nwfilter/no-arp-mac-spoofing.xml
/etc/libvirt/nwfilter/no-arp-spoofing.xml
/etc/libvirt/nwfilter/no-ip-multicast.xml
/etc/libvirt/nwfilter/no-ip-spoofing.xml
/etc/libvirt/nwfilter/no-mac-broadcast.xml
/etc/libvirt/nwfilter/no-mac-spoofing.xml
/etc/libvirt/nwfilter/no-other-l2-traffic.xml
/etc/libvirt/nwfilter/no-other-rarp-traffic.xml
/etc/libvirt/nwfilter/qemu-announce-self-rarp.xml
/etc/libvirt/nwfilter/qemu-announce-self.xml
/etc/libvirt/qemu
/etc/libvirt/qemu.conf
/etc/libvirt/qemu/networks
/etc/libvirt/qemu/networks/autostart
/etc/logrotate.d/libvirtd
/etc/logrotate.d/libvirtd.lxc
/etc/logrotate.d/libvirtd.qemu
/etc/rc.d/init.d/libvirtd
/etc/sysconfig/libvirtd
/etc/sysctl.d/libvirtd
/usr/libexec/libvirt_iohelper
/usr/libexec/libvirt_lxc
/usr/libexec/libvirt_parthelper
/usr/sbin/libvirtd
/usr/share/augeas/lenses/libvirtd.aug
 
 
[root@BAIYU_173 ~]# rpm -ql libvirt-client
/etc/libvirt/libvirt.conf
/etc/rc.d/init.d/libvirt-guests
/etc/sasl2/libvirt.conf
/etc/sysconfig/libvirt-guests
/usr/bin/virsh
/usr/bin/virt-host-validate
/usr/bin/virt-pki-validate
/usr/bin/virt-xml-validate
/usr/lib64/libvirt-qemu.so.0
/usr/lib64/libvirt-qemu.so.0.10.2
/usr/lib64/libvirt.so.0
/usr/lib64/libvirt.so.0.10.2
/usr/share/doc/libvirt-client-0.10.2

 

3、libvirt和libvirtd的配置文件

 

1
2
3
[root@BAIYU_173 ~]# cd /etc/libvirt/
[root@BAIYU_173 libvirt]# ls
libvirt.conf  libvirtd.conf  lxc.conf  nwfilter  qemu  qemu.conf

 

 

 

libvirt配置文件:/etc/libvirt/libvirt.conf

 

守护进程配置文件:/etc/libvirt/libvirtd.conf

 

域配置文件:xml格式                #使用麻烦

 

<vcpu placement='static'>2</vcpu>

 

<features>

 

</features>

 

<domain>

 

</domain>

 

 

 

4、Hypervisor的访问路径

 

1)本地URL:

 

                  driver[+transport]:///[path][?extral-param]

 

                             driver: 驱动名称,例如qemu, xen, lxc

 

                              transport:传输方式,默认是明文的,

 

 

 

                   kvm使用qemu驱动,使用格式qemu:///system, 例如qemu:///system

 

2)远程URL:

 

                driver[+transport]://[user@][host][:port]/[path][?extral-param]

 

        例如:qemu://172.16.100.6/system

 

                   qemu+ssh://root@172.16.100.6/system

 

                   qemu+tcp://172.16.100.6/system

 

 

 

工具的使用:

 

        (1) CLI: virt-install(创建并安装虚拟机), virsh

 

        (2) virt-manager

 

 

 

5、使用virt-install创建虚拟机并安装GuestOS

 

1
2
3
4
5
6
7
8
9
10
11
[root@BAIYU_173 libvirt]# rpm -ql python-virtinst
 
[root@BAIYU_173 libvirt]# rpm -ql python-virtinst
/usr/bin/virt-clone
/usr/bin/virt-convert
/usr/bin/virt-image
/usr/bin/virt-install
/usr/lib/python2.6/site-packages/virtconv
 
/usr/sbin/virt-install
/usr/share/doc/python-virtinst-0.600.0

 

       virt-install是一个命令行工具,它能够为KVM、Xen或其它支持libvirt API的hypervisor创建虚拟机并完成GuestOS安装;此外,它能够基于串行控制台、VNC或SDL支持文本或图形安装界面。安装过程可以使用本地的安装介质如CDROM,也可以通过网络方式如NFS、HTTP或FTP服务实现。对于通过网络安装的方式,virt-install可以自动加载必要的文件以启动安装过程而无须额外提供引导工具。当然,virt-install也支持PXE方式的安装过程,也能够直接使用现有的磁盘映像直接启动安装过程。

 

    virt-install命令有许多选项,这些选项大体可分为下面几大类,同时对每类中的常用选项也做出简单说明。

 

一般选项:指定虚拟机的名称、内存大小、VCPU个数及特性等;

 

        -n NAME, --name=NAME:虚拟机名称,需全局惟一;

 

-r MEMORY, --ram=MEMORY:虚拟机内存大小,单位为MB;

 

--vcpus=VCPUS[,maxvcpus=MAX][,sockets=#][,cores=#][,threads=#]:VCPU个数及相关配置;

 

--cpu=CPU:CPU模式及特性,如coreduo等;可以使用qemu-kvm -cpu ?来获取支持的CPU模式;

 

安装方法:指定安装方法、GuestOS类型等;

 

-c CDROM, --cdrom=CDROM:光盘安装介质;

 

-l LOCATION, --location=LOCATION:安装源URL,支持FTP、HTTP及NFS等,如ftp://172.16.0.1/pub;

 

--pxe:基于PXE完成安装;

 

        --livecd: 把光盘当作LiveCD;

 

--os-type=DISTRO_TYPE:操作系统类型,如linux、unix或windows等;

 

--os-variant=DISTRO_VARIANT:某类型操作系统的变体,如rhel5、fedora8等;

 

-x EXTRA, --extra-args=EXTRA:根据--location指定的方式安装GuestOS时,用于传递给内核的额外选项,例如指定kickstart文件的位置,--extra-args "ks=http://172.16.0.1/class.cfg"

 

--boot=BOOTOPTS:指定安装过程完成后的配置选项,如指定引导设备次序、使用指定的而非安装的kernel/initrd来引导系统启动等 ;例如:

 

--boot  cdrom,hd,network:指定引导次序;

 

--boot kernel=KERNEL,initrd=INITRD,kernel_args=”console=/dev/ttyS0”:指定启动系统的内核及initrd文件;

 

 

 

存储配置指定存储类型、位置及属性等;

 

--disk=DISKOPTS:指定存储设备及其属性;格式为--disk /some/storage/path,opt1=val1,opt2=val2等;常用的选项有:

 

device:设备类型,如cdrom、disk或floppy等,默认为disk;

 

bus:磁盘总线类型,其值可以为ide、scsi、usb、virtio或xen;

 

perms:访问权限,如rw、ro或sh(共享的可读写),默认为rw;

 

size:新建磁盘映像的大小,单位为GB;

 

cache:缓存模型,其值有none、writethrouth(缓存读)及writeback(缓存读写);

 

format:磁盘映像格式,如raw、qcow2、vmdk等;

 

sparse:磁盘映像使用稀疏格式,即不立即分配指定大小的空间;

 

   --nodisks:不使用本地磁盘,在LiveCD模式中常用;

 

 

 

网络配置:指定网络接口的网络类型及接口属性如MAC地址、驱动模式等;

 

        -w NETWORK, --network=NETWORK,opt1=val1,opt2=val2:将虚拟机连入宿主机的网络中,其中NETWORK可以为:

 

bridge=BRIDGE:连接至名为“BRIDEG”的桥设备;

 

network=NAME:连接至名为“NAME”的网络;

 

其它常用的选项还有:

 

model:GuestOS中看到的网络设备型号,如e1000、rtl8139或virtio等;

 

mac:固定的MAC地址;省略此选项时将使用随机地址,但无论何种方式,对于KVM来说,其前三段必须为52:54:00;

 

 --nonetworks:虚拟机不使用网络功能;

 

 

 

图形配置:定义虚拟机显示功能相关的配置,如VNC相关配置;

 

--graphics TYPE,opt1=val1,opt2=val2:指定图形显示相关的配置,此选项不会配置任何显示硬件(如显卡),而是仅指定虚拟机启动后对其进行访问的接口;

 

TYPE:指定显示类型,可以为vnc、sdl、spice或none等,默认为vnc;

 

port:TYPE为vnc或spice时其监听的端口;

 

listen:TYPE为vnc或spice时所监听的IP地址,默认为127.0.0.1,可以通过修改/etc/libvirt/qemu.conf定义新的默认值;

 

       password:TYPE为vnc或spice时,为远程访问监听的服务进指定认证密码;

 

   --noautoconsole:禁止自动连接至虚拟机的控制台;

 

设备选项:指定文本控制台、声音设备、串行接口、并行接口、显示接口等;

 

--serial=CHAROPTS:附加一个串行设备至当前虚拟机,根据设备类型的不同,可以使用不同的选项,格式为“--serial type,opt1=val1,opt2=val2,...”,例如:

 

--serial pty:创建伪终端;

 

--serial dev,path=HOSTPATH:附加主机设备至此虚拟机;

 

--video=VIDEO:指定显卡设备模型,可用取值为cirrus、vga、qxl或vmvga;

 

 

 

虚拟化平台:虚拟化模型(hvm或paravirt)、模拟的CPU平台类型、模拟的主机类型、hypervisor类型(如kvm、xen或qemu等)以及当前虚拟机的UUID等;

 

-v, --hvm:当物理机同时支持完全虚拟化和半虚拟化时,指定使用完全虚拟化;

 

-p, --paravirt:指定使用半虚拟化;

 

--virt-type:使用的hypervisor,如kvm、qemu、xen等;所有可用值可以使用’virsh capabilities’命令获取;

 

其它

 

--autostart:指定虚拟机是否在物理启动后自动启动;

 

--print-xml:如果虚拟机不需要安装过程(--import、--boot),则显示生成的XML而不是创建此虚拟机;默认情况下,此选项仍会创建磁盘映像;

 

--force:禁止命令进入交互式模式,如果有需要回答yes或no选项,则自动回答为yes;

 

--dry-run:执行创建虚拟机的整个过程,但不真正创建虚拟机、改变主机上的设备配置信息及将其创建的需求通知给libvirt;

 

-d, --debug:显示debug信息;

 

 

 

尽管virt-install命令有着类似上述的众多选项,但实际使用中,其必须提供的选项仅包括--name、--ram、--disk(也可是--nodisks)及安装过程相关的选项。此外,有时还需要使用括--connect=CONNCT选项来指定连接至一个非默认的hypervisor。

 

 

 

使用示例:

 

   (1) # virt-install -n "centos6" -r 512 --vcpus=2 -l http://172.16.0.1/cobbler/ks_mirror/CentOS-6.6-x86_64/ -x "ks=http://172.16.0.1/centos6.x86_64.cfg" --disk path=/images/kvm/centos6.img,size=120,sparse --force -w bridge=br100,model=virtio

 

     (2) 下面这个示例创建一个名为rhel5的虚拟机,其hypervisor为KVM,内存大小为512MB,磁盘为8G的映像文件/var/lib/libvirt/images/rhel5.8.img,通过boot.iso光盘镜像来引导启动安装过程。

 

1
2
3
4
5
6
7
8
9
# virt-install \
   --connect qemu:///system \
   --virt-type kvm \
   --name rhel5 \
   --ram 512 \
   --disk path=/var/lib/libvirt/images/rhel5.img,size=8 \
   --graphics vnc \
   --cdrom /tmp/boot.iso \
   --os-variant rhel5

 

  (3) 下面的示例将创建一个名为rhel6的虚拟机,其有两个虚拟CPU,安装方法为FTP,并指定了ks文件的位置,磁盘映像文件为稀疏格式,连接至物理主机上的名为brnet0的桥接网络:

 

1
2
3
4
5
6
7
8
9
10
11
12
# virt-install \
    --connect qemu:///system \
    --virt-type kvm \
    --name rhel6 \
    --ram 1024 \
    --vcpus 2 \
    --network bridge=brnet0 \
    --disk path=/VMs/images/rhel6.img,size=120,sparse \
    --location ftp://172.16.0.1/rhel6/dvd \
    --extra_args “ks=http://172.16.0.1/rhel6.cfg” \
    --os-variant rhel6 \
    --force

 

  (4) 下面的示例将创建一个名为rhel5.8的虚拟机,磁盘映像文件为稀疏模式的格式为qcow2且总线类型为virtio,安装过程不启动图形界面(--nographics),但会启动一个串行终端将安装过程以字符形式显示在当前文本模式下,虚拟机显卡类型为cirrus:

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
# virt-install \
--connect qemu:///system \
--virt-type kvm \ 
--name rhel5.8 \ 
--vcpus 2,maxvcpus=4 \
--ram 512 \ 
--disk path=/VMs/images/rhel5.8.img,size=120,format=qcow2,bus=virtio,sparse \ 
--network bridge=brnet0,model=virtio
--nographics \
--location ftp://172.16.0.1/pub 
--extra-args "ks=http://172.16.0.1/class.cfg  console=ttyS0  serial" \
--os-variant rhel5 \
--force  \
--video=cirrus

 

  (5) 下面的示例则利用已经存在的磁盘映像文件(已经有安装好的系统)创建一个名为rhel5.8的虚拟机:

 

# virt-install \

 

   --name rhel5.8

 

   --ram 512

 

   --disk /VMs/rhel5.8.img

 

   --import

 

 

 

注意:每个虚拟机创建后,其配置信息保存在/etc/libvirt/qemu目录中,文件名与虚拟机相同,格式为XML。

 

 

 

 

 

6)virsh的几个常用命令:

 

list, create, domstate, dominfo, autostart, dommemstat, setmem, vcpuinfo, vcpupin, setvcpus, vncdisplay

 

destroy, shutdown

 

reset, reboot

 

save, restore

 

migrate

 

console

 

 

 

Host 和 Hypervisor:

 

sysinfo, uri, connect

 

 

 

网络接口:

 

iface-list, iface-bridge

 

 

 

虚拟网络:

 

net-list

 

 

 

virt-manager:GUI工具

 

posted @ 2017-10-05 10:43  chenghuan  阅读(765)  评论(0)    收藏  举报