1. 虚拟机镜像的创建和resize流程
nova创建虚拟机涉及的组件比较多,调用比较复杂,这里只列出跟虚拟机镜像创建相关的流程,方便理清虚拟机状态变化的整个流程。
nova-api
nova.api.openstack.compute.servers.ServersController.create() # 接受创建请求,解析出image_uuid
nova.compute.api.API.create ()
nova.compute.api.API._create_instance() # 调用glance api获取image对象
nova.conductor.api.LocalComputeTaskAPI.build_instances()
nova.conductor.manager.ConductorManager.build_instances() # 此处虽然接收block_device_mapping参数,但是是为了兼容旧版,没有使用。实际通过nova.objects.BlockDeviceMappingList.get_by_instance_uuid()获取
nova.compute.rpcapi.ComputeAPI.build_and_run_instance() # 使用cast方法调用nova-compute的build_and_run_instance方法。
nova-compute
nova.compute.manager.ComputeManager.build_and_run_instance()
nova.compute.manager.ComputeManager._do_build_and_run_instance()
nova.compute.manager.ComputeManager._build_and_run_instance()
nova.compute.manager.ComputeManager._build_resources()
nova.compute.manager.ComputeManager._prep_block_device()
nova.virt.block_device.attach_block_devices()
nova.virt.block_device.DriverImageBlockDevice.attach()
nova.volume.cinder.API.create()
nova.virt.libvirt.driver.LibvirtDriver.spwan()
nova.virt.libvirt.driver.LibvirtDriver._create_image() # 此处会判断如果不是从volume启动,则调用imagebackend去创建虚拟机镜像
nova.virt.libvirt.driver.LibvirtDriver._try_fetch_image_cache()
nova.virt.libvirt.imagebackend.Image.cache()
nova.virt.libvirt.imagebackend.Rbd.create_image()
nova.virt.libvirt.imagebackend.Rbd.clone()
nova.virt.libvirt.storage.rbd_utils.RBDDriver.clone() # 创建虚拟机镜像,此处如果所使用的image后端不支持clone,或者镜像不可clone(比如rbd中不是raw格式的镜像),会触发异常,create_image调用下面的fetch_image函数
nova.virt.libvirt.utils.fetch_image()
nova.virt.images.fetch_to_raw()
nova.virt.images.fetch()
nova.image.API.download()
nova.virt.images.convert_image()
nova.virt.images._convert_image() # 将镜像拷贝到本地的/var/lib/instances/_base/目录下,文件名为md5(image).part,然后用qemu-img convert转换为raw格式,名为md5(image).converted,最后重命名为md5(image)
nova.virt.libvirt.storage.rbd_utils.RBDDriver.import_image() # 这一步是在clone失败,执行fetch_image的情况下,判断虚拟机镜像不存在,执行import_image将fetch的镜像导入到RBD后端作为虚拟机镜像。
nova.virt.libvirt.storage.rbd_utils.RBDDriver.resize() # 调整虚拟机镜像大小
nova.virt.libvirt.imagebackend.Rbd.resize_image() # 调整虚拟机镜像大小,RBD后端实际上在create_image时已经resize了,不会执行这一步,这里应该是为了确保其他后端能够正确设置虚拟机镜像的大小
为了便于分析,用graphviz画了在nova-compute的调用关系图:
注:存储后端用的是Ceph,所以调用的后端代码是nova.virt.libvirt.imagebackend.Rbd,如果nova使用了不同的后端,比如本地的qcow2镜像、raw镜像、lvm等,只需要对照nova.virt.libvirt.imagebackend中提供的对应实现,出入不会太大,因为它们都继承nova.virt.libvirt.imagebackend.Image,有相同的接口。
至此,虚拟机的镜像已经创建完毕,并且resize为flavor所设置的大小。后面是虚拟机启动后,resize分区和文件系统的过程。
一般虚拟机镜像中会安装cloud-init或者配置启动脚本来对虚拟机做初始化配置。在cloud-init或启动脚本中调用growpart和resizefs来完成分区和文件系统的扩容。
2. 分区的resize
cloud-init支持使用growpart和gpart对分区进行扩容,时配置的mode而定,默认会按顺序检测系统中是否安装了这两个工具,使用第一个找到的。
growpart是AWS的扩展分区工具,它分别使用sfdisk和sgdisk对MBR和GPT分区表操作,先将分区表导出,然后改写分区的其实扇区位置,最后将改写后的分区表导入,完成分区的扩容。
# growpart [diskdev] [partnum]
gpart是FreeBSD推出的磁盘管理工具,GPT分区表将metadata的主本保存在硬盘的开始,将副本保存在硬盘的末尾,所以当虚拟机镜像被扩容,相当于硬盘的容量变大,在GPT看来末尾的metadata副本丢失了,需要先执行recover命令恢复,然后再进行扩容。
# gpart recover [diskdev]
# gpart resize -i [partnum] [diskdev]
3. 文件系统的resize
cloud-init通过依次尝试解析/proc/$$/mountinfo、/etc/mtab和mount命令的输出,来获取根目录所挂载的分区和文件系统格式。
针对不通的文件系统,使用不同的命令扩容:
# resize2fs [devpth] # ext文件系统
# xfs_growfs [devpth] # xfs文件系统
# growfs [devpth] # ufs文件系统
# btrfs filesystem resize max [mount_point] # btrfs文件系统