问题
在 CentOS KVM 上启动虚拟机来部署 OpenStack 测试环境,在启动具有 CPU 绑定、NUMA 亲和的虚拟机时触发错误:
libvirtError: Requested operation is not valid: cpu affinity is not supported
这是因为 Nova 使用了 qemu virt_type,而 Qemu 是通过模拟来实现 CPU、内存虚拟化的,所以自然也就不支持 cpu affinity 了。要使用 KVM 硬件虚拟化才可以支持 CPU 绑定,于是修改 nova.conf:
[libvirt] ... virt_type=kvm
重试,又出现错误:
libvirtError: invalid argument: could not find capabilities for domaintype=kvm
这是因为我的 HostOS 没有开启 KVM Nested 嵌套虚拟化,即 KVM 虚拟机里面不支持 KVM 虚拟机,因为第一次 KVM 虚拟机没能具有与 HostOS 相同的 CPU 环境。
解决
KVM 嵌套式虚拟 Nested 是一个可通过修改内核参数来启用的功能,它能够使一台虚拟机具相同的有物理机 CPU 特性,支持 vmx|svm(AMD) 硬件虚拟化,该特性需要 Linux 内核版本大于 Linux 3.x。
查看是否启动了 Nested:
[root@virtualbmc ~]# cat /sys/module/kvm_intel/parameters/nested Y
启用 Nested:
echo 'options kvm_intel nested=1' >/etc/modprobe.d/kvm-nested.conf # 卸载内核模块 modprobe -r kvm_intel # 重新加载内核模块 modprobe kvm_intel
NOTE:如果无法重载内核模块,可以考虑直接重启
如果希望已经存在的虚拟机支持嵌套虚拟化,还需要重新编辑虚拟机的 XML 文件,修改其 cpu mode。
# 关机 $ virsh shutdown domain-xxx # 编辑 $ virsh edit domain-xxx <cpu mode='host-passthrough'> # 开机 $ virsh start domain-xxx
登录入虚拟机检查是否有 CPU 穿透:
[root@overcloud-ovscompute-0 ~]# egrep '(vmx|svm)' /proc/cpuinfo flags : fpu vme de pse tsc msr pae mce cx8 apic sep mtrr pge mca cmov pat pse36 clflush mmx fxsr sse sse2 ss syscall nx pdpe1gb rdtscp lm constant_tsc arch_perfmon rep_good nopl eagerfpu pni pclmulqdq vmx ssse3 cx16 pcid sse4_1 sse4_2 x2apic popcnt tsc_deadline_timer aes xsave avx f16c rdrand hypervisor lahf_lm tpr_shadow vnmi flexpriority ept vpid fsgsbase tsc_adjust smep erms xsaveopt