在Azure上创建虚拟机一般是使用市场上做好的操作系统映像,但有的时候对于一些业务系统的特殊要求需要一些特别版本的系统映像恰好是市场里没有的,比如这里我需要用CentOS6.4,市场里没有,因此我就需要自己做一个CentOS6.4的映像上传到Azure供自己以后使用,在制作之前需要了解Azure对自定义映像的一些限制:

  • Azure 不支持 VHDX 格式,仅支持 固定大小的 VHD

  • 在安装 Linux 系统时,建议使用标准分区而不是 LVM(通常是许多安装的默认值)。 这可以避免与克隆 VM 发生 LVM 名称冲突,尤其是在需要将 OS 磁盘连接到另一个同类 VM 进行故障排除时。

  • 内核需要支持装载 UDF 文件系统。

  • 低于 2.6.37 的 Linux 内核版本不支持具有更大 VM 大小的 Hyper-V 上的 NUMA

  • 不要在操作系统磁盘上配置交换分区。

  • Azure 上的所有 VHD 必须已将虚拟大小调整为 1MB。 从原始磁盘转换为 VHD 时,必须确保在转换前原始磁盘大小是 1MB 的倍数。

按照如上要求我来做一个CentOS6.4的映像吧,首先我再Hyper-V上创建一台CentOS64的虚拟机

clip_image001[1]

等会创建虚拟磁盘,因为默认创建的是VHDX,但这里需要VHD的虚拟磁盘

clip_image002[1]

创建好虚拟机后设置该虚拟机,点击添加硬盘驱动器

clip_image003[1]

新建,下一步

clip_image004[1]

选择VHD,下一步

clip_image005[1]

选择固定大小

clip_image006[1]

设置VHD的名称以及保存位置

clip_image007[1]

设置大小,当然这里只需要系统盘

clip_image008[1]

挂在CentOS6.4的ISO,然后启动虚拟机

clip_image009[1]

跳过

clip_image010[1]

clip_image011[1]

NEXT

clip_image012[1]

Next

clip_image013[1]

Next

clip_image014[1]

Next

clip_image015[1]

Yes

clip_image016[1]

配置网卡,并编辑勾选自动连接,应用后Next

clip_image017[1]

选择时区为上海,并且不勾选UTC

clip_image018[1]

设置root密码

clip_image019[1]

选择创建自定义布局,Next

clip_image020[1]

创建标准分区

clip_image021[1]

使用全部大小,不创建交换分区

clip_image022[1]

下一步

clip_image023[1]

Yes

clip_image024[1]

格式化

clip_image025[1]

Write changes to disk

clip_image026[1]

下一步

clip_image027[1]

下一步

clip_image028[1]

开始安装,等待安装完成

clip_image029[1]

重启

clip_image030[1]

重启好登录,然后首先看内核

clip_image031[1]

++++++++++++++++++++++++++++可选步骤+++++++++++++++++++++++++++++++++++

备注:升级了内核也就升级了CentOS系统版本号,比如CentOS6.4升级当前最新就变成CentOS6.10了

内核低于2.6.37 的 Linux 内核版本不支持具有更大 VM 大小的 Hyper-V 上的 NUMA,因此需要升级内核

升级网络安全服务

yum update nss

导入public key

rpm --import https://www.elrepo.org/RPM-GPG-KEY-elrepo.org

先要进入后面的网址,http://elrepo.org/tiki/tiki-index.php

clip_image032[1]

选择要安装的ELRepo

yum install https://www.elrepo.org/elrepo-release-6-8.el6.elrepo.noarch.rpm
安装 kernel-lt(lt=long-term)

yum --enablerepo=elrepo-kernel install kernel-lt -y

编辑grub.conf文件,修改Grub引导顺序

vim /etc/grub.conf

clip_image033[1]

最后重启系统

shutdown -r now

内核升级完毕,再次检查内核版本

clip_image034[1]

++++++++++++++++++++++++++++可选步骤+++++++++++++++++++++++++++++++++++

在 CentOS 6 中,NetworkManager 可能会干扰 Azure Linux 代理。 请运行以下命令来卸载该包(我这里安装的方式没有这个):

sudo rpm -e --nodeps NetworkManager

检查/etc/sysconfig/network 文件是否如下:vim /etc/sysconfig/network

clip_image035[1]

检查/etc/sysconfig/network-scripts/ifcfg-eth0文件是否如下:vim /etc/sysconfig/network-scripts/ifcfg-eth0

clip_image036[1]

修改 udev 规则,以免为以太网接口生成静态规则。 在 Azure 或 Hyper-V 中克隆虚拟机时,这些规则可能会引发问题:

# sudo ln -s /dev/null /etc/udev/rules.d/75-persistent-net-generator.rules

# sudo rm -f /etc/udev/rules.d/70-persistent-net.rules

clip_image037[1]

通过运行以下命令,确保网络服务在引导时启动

# sudo chkconfig network on

如果要使用 Azure 数据中心托管的 OpenLogic 镜像,在/etc/yum.repos.d/目录下新建一个CentOS-Azure.repo 文件

clip_image038[1]

文件内容如下,包含 Azure Linux 代理等其他包的 [openlogic] 存储库:

# CentOS-Azure.repo

#

# The mirror system uses the connecting IP address of the client and the

# update status of each mirror to pick mirrors that are updated to and

# geographically close to the client. You should use this for CentOS updates

# unless you are manually picking other mirrors.

#

# If the mirrorlist= does not work for you, as a fall back you can try the

# remarked out baseurl= line instead.

#

#

[base]

name=CentOS-$releasever - Base

baseurl=http://olcentchan.chinacloudapp.cn/centos/$releasever/os/$basearch/

gpgcheck=1

gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-6

#released updates

[updates]

name=CentOS-$releasever - Updates

baseurl=http://olcentchan.chinacloudapp.cn/centos/$releasever/updates/$basearch/

gpgcheck=1

gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-6

#additional packages that may be useful

[extras]

name=CentOS-$releasever - Extras

baseurl=http://olcentchan.chinacloudapp.cn/centos/$releasever/extras/$basearch/

gpgcheck=1

gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-6

#additional packages that extend functionality of existing packages

[centosplus]

name=CentOS-$releasever - Plus

baseurl=http://olcentchan.chinacloudapp.cn/centos/$releasever/centosplus/$basearch/

gpgcheck=1

enabled=0

gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-6

#contrib - packages by Centos Users

[contrib]

name=CentOS-$releasever - Contrib

baseurl=http://olcentchan.chinacloudapp.cn/centos/$releasever/contrib/$basearch/

gpgcheck=1

enabled=0

gpgkey=file:///etc/pki/rpm-gpg/RPM-GPG-KEY-CentOS-6

clip_image039[1]

将以下行添加到 /etc/yum.conf

http_caching=packages

clip_image040[1]

运行以下命令,清除当前的 yum 元数据并使用最新的包更新系统

# yum clean all

建议将所有包都更新到最新版本,除非要为旧版 CentOS 创建映像

# sudo yum -y update

运行此命令后,重新启动系统

shutdown -r now

安装适用于 Linux Integration Services (LIS) 的驱动程序(对于 CentOS 6.3 及更低版本来说是 必需 步骤,对于更高版本来说是可选步骤)

# sudo rpm -e hypervkvpd ## (如果没有安装可能会返回错误,没关系)

# sudo yum install -y microsoft-hyper-v

安装Azure Linux 代理和依赖项(如果没有删除 NetworkManager和NetworkManager-gnome 包,则安装 WALinuxAgent 包时会删除它们)

# sudo yum install python-pyasn1 WALinuxAgent

clip_image041[1]

clip_image042[1]

在 grub 配置中修改内核引导行,使其包含 Azure 的其他内核参数(将确保所有控制台消息都发送到第一个串行端口,从而可以协助 Azure 支持人员调试问题),打开/boot/grub/menu.lst

vim /boot/grub/menu.lst

console=ttyS0 earlyprintk=ttyS0 rootdelay=300

clip_image043[1]

CentOS 6.5或更早版本还必须设置内核参数 numa=off

由于低于 2.6.37 的 Linux 内核版本中的 bug,因此大型VM不支持非一致性内存访问 (NUMA),运行版本低于 2.6.37 的自定义内核的系统或者版本低于 2.6.32-504 的基于 RHEL 的内核必须在 grub.conf 中的内核命令行上设置启动参数 numa=off,有关详细信息,请参阅 Red Hat KB 436883

clip_image044[1]

如果该文件里有如下参数,建议删除

rhgb quiet crashkernel=auto

clip_image045[1]

接着检查下内核是否支持装载 UDF 文件系统,这里看是支持的,OK没问题

clip_image046[1]

永久关闭SELinux(这样需要重启服务器后生效)

sed -i 's/SELINUX=enforcing/SELINUX=disabled/' /etc/selinux/config

永久关闭Linux防火墙

chkconfig iptables off

接着安装waagent(Microsoft Azure Linux代理)先打开https://github.com/Azure/WALinuxAgent/releases,选择最新的版本

clip_image047[1]

cd /tmp/

yum install -y wget

wget https://github.com/Azure/WALinuxAgent/archive/v2.2.38.tar.gz

tar -xzf v2.2.38.tar.gz

ls -l

clip_image048[1]

cd WALinuxAgent-2.2.38

ls -l

clip_image049[1]

接着安装pip

sudo yum install python-pip

python package setuptools是安装Azure Linux Agent的先决条件

yum install -y python-setuptools

安装好python package setuptools后继续安装Azure Linux Agent

sudo python setup.py install

查看waagent运行状态

service waagent restart

查看waagent版本

waagent -version

clip_image050[1]

创建一个新的非root账户,比如zjunsen

# useradd zjunsen

# passwd zjunsen

输入新密码(密码建议设置为符合Azure虚拟机创建时的复杂度要求)

再次输入新密码

让zjunsen加入root组

# usermod -G root zjunsen

# visudo

添加zjunsen可以执行sudo

clip_image051[1]

最后运行以下命令对虚拟机执行通用化设置,在设置之前需要修改下网络配置,为什么要在关机之前的通用化之前来做就是怕找不到网卡

sudo vim /etc/sysconfig/network-scripts/ifcfg-eth0

clip_image052[1]

编辑“/etc/resolv.conf”,添加Azure上的DNS服务器

sudo vim /etc/resolv.conf

修改如下

search pfa1hgkf53jujovxud25btaopc.shax.internal.chinacloudapp.cn

nameserver 168.63.129.16

clip_image053[1]

加下来就可以对CentOS通用化了,一般通用化使用waagent -deprovision+user或者waagent -deprovision

注:+user 参数还会删除上次预配的用户帐户(deprovision参数会禁用root账户);新建的其他root组的user账户依然可用

这里执行如下:

# sudo waagent -deprovision+user -force

# export HISTSIZE=0

# sudo shutdown -h 0

执行init 0或shutdown -h 0关机,在Hyper-V管理器中可以看到该虚拟机关机了,CentOS6.4 VHD就准备就绪可以上传到Azure了

clip_image054[1]

接下来切换到Azure门户上,创建一个资源组

clip_image055[1]

接下来在这个资源组里创建一个存储账户

clip_image056[1]

创建好以后会看到该存储账户有两组25个字符的访问密钥,这里我只需要用到KEY1的密钥

clip_image057[1]

接下来创建容器

clip_image058[1]

添加容器

clip_image059[1]

设置专用

clip_image060[1]

接下来上传VHD到Azure容器里,因为VHD文件比较大,这里采用Azcopy , 因为Azcopy 可以支持断点续传

Azcopy 下载地址:https://docs.azure.cn/zh-cn/storage/common/storage-use-azcopy?toc=%2fstorage%2ftables%2ftoc.json

通过Azcopy操作Azure存储可以参考https://docs.azure.cn/zh-cn/articles/azure-operations-guide/storage/aog-storage-how-to-use-azcopy

默认情况下,Azcopy 的安装位置:64-bit Window 为 C:\Program Files (x86)\Microsoft SDKs\Azure,32-bit Windows 为 C:\Program Files\Microsoft SDKs\Azure

使用Azcopy 将本地的文件上传到对应的存储账户下面的容器

执行命令格式为:AzCopy /Source:C:\myfolder /Dest:https://myaccount.blob.core.chinacloudapi.cn/mycontainer /DestKey:key /Pattern:abc.txt

在这里执行的命令是:(×××高亮部分按照您的实际情况修改)(该存储账户没有开启共享访问签名(新建存储账户默认是未开启))

备注:当 /Source 是 blob 容器或 blob 虚拟目录时,AzCopy 使用区分大小写匹配,而在所有其他情况下则使用不区分大小写匹配。

PS C:\Program Files (x86)\Microsoft SDKs\Azure\AzCopy> .\AzCopy.exe /Source:D:\Hyper-V\CentOS64\Cent64OS.vhd /Dest:https://vmosimage.blob.core.chinacloudapi.cn/mydisk/CentOS64.vhd /DestKey:/eAKlZpIy7sWO0AT3Hi4DV895mwHubHDqe+wbz0vJnbyes0f9oB4pCdKELZ3yvrLfjrqGjJwEYzpiioCO0EiGQ== /BlobType:page

红色字体的CentOS64.vhd是上传到Azure容器里的保存名字;最后一定要加/BlobType:page否则上传上去就是block blob,而不是适用于vhd的page blob

clip_image061[1]

clip_image062[1]

执行等待上传完成,因为支持断点续传,如果中断就再执行一下这条命令就今天继续上传(如果你上传了一半突然发现又要修改源vhd的内容,别忘了执行通用化设置后重新执行命令上传时选择No开始全新上传,而不是Yes断点续传之前的

clip_image063[1]

也可以利用Windows Admin Center查看上传的状态

clip_image064[1]

上传完成

clip_image065[1]

在Azure门户上也可以看到上传好的该vhd文件

clip_image066[1]

接下来就可以创建自定义映像了,在所有服务中选择映像

clip_image067[1]

点击添加

clip_image068[1]

设置名称,选择OS类型是Linux,选择刚才上传的自定义映像所在位置

clip_image069[1]

选择账户类型是标准HDD还是标准SSD或高级SSD,当然标准HDD只能创建不带SSD的虚拟机型号,标准SSD可以创建带SSD磁盘的虚拟机型号,如D4s v2这样的。

clip_image070

映像创建好以后,这就是模板映像了,点击它进去

clip_image071

点击创建VM,可以根据这个模板映像创建基于这个CentOS6.4的多个提供不同业务的系统服务了

clip_image072

设置虚拟机的名称,大小,虚拟网络等等,然后创建,(在创建VM时建议使用本地新建账户(这里是zjunsen)一直的账户名和密码)成功后就可以看到公网IP和内网IP

clip_image073

接着就入站网络安全组开放22端口即可连接

clip_image074

到这里我就介绍完如何自定义Linux映像并上传后基于该映像创建虚拟机的全过程了。

PS:整个过程有一个不完美的地方就是在利用映像创建VM部署进行时会持续半小时最后提示没有通用化而部署失败,但实际虚拟机已经创建出来可以连接使用了,我个人认为影响不大,仅供参考。