服务器之家:专注于服务器技术及软件下载分享
分类导航

云服务器|WEB服务器|FTP服务器|邮件服务器|虚拟主机|服务器安全|DNS服务器|服务器知识|Nginx|IIS|Tomcat|

服务器之家 - 服务器技术 - 服务器知识 - 详解基于本地存储的kvm虚拟机在线迁移

详解基于本地存储的kvm虚拟机在线迁移

2020-12-31 23:42桦仔 服务器知识

本篇文章主要介绍了基于本地存储的kvm虚拟机在线迁移,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧

kvm虚拟机迁移分为4种

(1)热迁移基于共享存储

(2)热迁移基于本地存储

(3)冷迁移基于共享存储

(4)冷迁移基于本地存储

这里介绍的是基于本地存储的热迁移

动态块迁移版本要求

qemu版本要求  大于或等于0.12.1(centos6.7或以上都没问题)

?
1
2
3
rpm -qa|grep qemu
qemu-kvm-0.12.1.2-2.491.el6_8.1.x86_64
qemu-kvm-tools-0.12.1.2-2.491.el6_8.1.x86_64

目标宿主机:192.168.1.24  机器名:CQ-KVM01

源宿主机:192.168.1.26   机器名:CQ-KVM02

迁移使用tcp认证方式

kvm虚拟机名称,是一台跑nginx的虚拟机:CQ-NGINX01

1、配置libvirtd服务 源宿主机和目标宿主机都要执行

?
1
2
3
4
5
6
7
vi /etc/libvirt/libvirtd.conf
listen_tls = 0 
listen_tcp = 1
tcp_port = "16509"
listen_addr = "0.0.0.0"
auth_tcp = "none"
mdns_adv = 0

解释

  • listen_tls:关闭tls,默认是开启的
  • listen_tcp :开启tcp认证
  • tcp_port:tcp端口配置,默认端口是16509
  • auth_tcp:配置是否开启口令认证,默认不开启
  • mdns_adv:是否开启mdns组播,默认关闭
?
1
2
3
4
5
6
sed -i 's/^#listen_tls = 0/listen_tls = 0/' /etc/libvirt/libvirtd.conf
sed -i 's/^#listen_tcp = 1/listen_tcp = 1/' /etc/libvirt/libvirtd.conf
sed -i 's/^#tcp_port = \"16509\"/tcp_port = \"16509\"/' /etc/libvirt/libvirtd.conf
sed -i 's/^#listen_addr = \"192.168.0.1\"/listen_addr = \"0.0.0.0\"/' /etc/libvirt/libvirtd.conf
sed -i 's/^#auth_tcp = \"sasl\"/auth_tcp = \"none\"/' /etc/libvirt/libvirtd.conf
sed -i 's/^#mdns_adv = 1/mdns_adv = 0/' /etc/libvirt/libvirtd.conf
?
1
2
3
4
5
6
cat libvirtd.conf |grep -iE "listen_tls"
cat libvirtd.conf |grep -iE "listen_tcp"
cat libvirtd.conf |grep -iE "tcp_port"
cat libvirtd.conf |grep -iE "listen_addr"
cat libvirtd.conf |grep -iE "auth_tcp"
cat libvirtd.conf |grep -iE "mdns_adv"

2、配置libvirtd监听方式,无论是tcp,ssh,tls认证方式都需要配置 , 源宿主机和目标宿主机都要执行

?
1
2
vi /etc/sysconfig/libvirtd
LIBVIRTD_ARGS="--listen"

3、编辑/etc/libvirt/qemu.conf文件  源宿主机和目标宿主机都要执行

?
1
2
vi /etc/libvirt/qemu.conf
vnc_listen = "0.0.0.0"

解释

  • vnc_listen:使虚拟机带外VNC默认监听.0.0.0.0

4、重启libvirtd服务,使配置生效,  源宿主机和目标宿主机都要执行

?
1
/etc/init.d/libvirtd restart

5、检查端口和进程,libvirtd是否监听16509端口,  源宿主机和目标宿主机都要执行

netstat -lntp | grep libvirtd
tcp        0      0 0.0.0.0:16509               0.0.0.0:*                   LISTEN      48825/libvirtd   

修改iptables脚本,放行16509端口和49152端口

?
1
2
3
4
#ACCESS kvm
iptables -A INPUT -m state --state NEW -m tcp -p tcp --dport 5900:5909 -j ACCEPT
iptables -A INPUT -p tcp --dport 16509 -j ACCEPT
iptables -A INPUT -p tcp --dport 49152 -j ACCEPT

6、在源宿主机和目标宿主机加上IP和主机的解析

?
1
2
3
4
#24机器上
echo "192.168.1.26 CQ-KVM02" >> /etc/hosts
#26机器上
echo "192.168.1.24 CQ-KVM01" >> /etc/hosts

7、在源宿主机连接目标宿主机的libvirtd并查看虚拟机信息

?
1
2
virsh -c qemu+tcp://root@192.168.1.26:16509/system
virsh -c qemu+tcp://root@192.168.1.24:16509/system

8、在目标宿主机创建同样大小的镜像文件,路径、名称也要一样

要加上preallocation=metadata,否则使用virt-install命令安装完成后虚拟机磁盘镜像会变为raw格式

?
1
qemu-img create -f qcow2 -o preallocation=metadata /data/kvmimg/CQ-NGINX01.qcow2 100G

9、迁移 ,192.168.1.26为目标宿主机的内网IP,tcp认证方式,迁移时间有点长需要开一个screen窗口,不需要cd 到镜像文件所在目录

?
1
2
screen -S migratekvm
virsh migrate --live --copy-storage-all --unsafe --persistent CQ-NGINX01 qemu+tcp://root@192.168.1.26:16509/system

10、在目标宿主机执行,会显示paused状态 即是suspended状态

?
1
watch virsh list --all

11、在目标宿主机执行,显示迁移进度

?
1
tailf /var/log/libvirt/qemu/CQ-NGINX01.log

12、在目标宿主机执行,镜像文件目录为/data/kvmimg/,显示虚拟机镜像的大小,会看到虚拟机镜像会不断增大表示数据已经在迁移过来

注意创建镜像文件的时候要使用preallocation=metadata

?
1
2
cd /data/kvmimg/
watch du -h *

13、虚拟机迁移完成后,源宿主机为关机状态,目标宿主机变为running状态

?
1
2
virsh list --all #源宿主机
virsh list --all #目标宿主机

14、源宿主机删除xml配置文件

?
1
2
virsh destroy CQ-NGINX01
virsh undefine CQ-NGINX01

注意:

迁移过程中ping会有卡顿,有时会丢几个包,如果虚拟机中有部署数据库,应用程序最好有重连机制

回迁方法

建议不要删除源宿主机上的镜像文件,保留镜像文件

#在目标宿主机上执行 ,回迁到源宿主机

?
1
2
virsh dumpxml CQ-NGINX01 >~/CQ-NGINX01.xml
virsh migrate --live --copy-storage-all --unsafe --persistent CQ-NGINX01 qemu+tcp://root@192.168.1.24:16509/system

注意:

源宿主机和目标宿主机最好要保持硬件一致 ,这样迁移和回迁出问题的几率才能降到最低!

迁移速度和成功率和网络有很大关系,宿主机的网络尽量是万兆或千兆多网卡绑定,可以提高迁移速度和成功率

?
1
2
#限制迁移速度 为600M/s
virsh migrate-setspeed CQ-NGINX01 600

--------------------------------------------------------------------------------

在线迁移问题汇总

(如果ssh的端口不是默认22,可以写为 qemu+ssh://target:port/system)

Question 1:

error: internal error hostname on destination resolved to localhost, but migration requires an FQDN

解决办法很简单,因为默认情况下hostname 是 localhost,我们需要把目标的hostname修改一下,临时的也可以。

?
1
#hostname target

Question 2:
error: internal error Attempt to migrate guest to the same host 00020003-0004-0005-0006-000700080009

这个在mail list 中有大牛说是服务器提供商的问题,你可以用#dmidecode -s system-uuid 查看一下这个ID,理论上是#virsh sysinfo | grep uuid 及# virsh capabilities | grep uuid

这三个ID是一样的。(之前看论坛里发的解决方法是需要下载一个dmidecode 命令的文件去替换系统的,达到修改的目的,不过我只是修改了libvirt的配置文件就可以了,可能是版本的问题)

我们修改一下libvirtd的配置文件

?
1
#sed -i "/#host_uuid/ahost_uuid = \"`uuidgen`\"" /etc/libvirt/libvirtd.conf

重启一下libvirtd 服务

?
1
# /etc/init.d/libvirtd restart

然后再查看一下

?
1
# virsh capabilities | grep uuid

Question 3:

error: unable to set user and group to '107:107' on '/image/vmtest/disk.img': No such file or directory

如果顺利进入到这步的话,就很简单了,没有directory 直接创建一个就可以,没有disk.img 直接create一个

注:创建的磁盘应该和源虚拟机的磁盘是一样的大小(更大应该是可以)和格式(raw还是qcow2)

?
1
qemu-img create /image/vmtest/disk.img +sizeG

Question 4:

error: Unable to resolve address 'target' service '49155': Name or service not known

《《Name or service not known》》在/etc/hosts 添加解析的ip和target的域名即可

Question 5:

virsh migrate --live --copy-storage-all --unsafe --persistent CQ-NGINX01  qemu+tcp://root@192.168.1.24:16509/system

error: Unable to read from monitor: Connection reset by peer

可能目标宿主机和源宿主机内存不够

建议:目标宿主机和源宿主机上都关闭一些不必要的虚拟机把内存腾出来

也可以清空cache把内存腾出来

#清除cache 首先执行sync命令

?
1
2
sync
echo 3 > /proc/sys/vm/drop_caches

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。

原文链接:http://www.cnblogs.com/lyhabc/p/6104555.html

延伸 · 阅读

精彩推荐