微服务架构Day31-Dubbo之持续集成

推荐原创

攻城狮Chova 2021-05-18 14:29:37 ©著作权

文章标签 Dubbo教程微服务架构 Java 文章分类 架构后端开发

©著作权归作者所有：来自51CTO博客作者攻城狮Chova的原创作品，请联系作者获取转载授权，否则将追究法律责任

Dubbo之GitLab Runner部署持续集成

概念
GitLab Runner

概念

服务治理遇到的问题
- 在微服务项目中每个服务都是独立运行的项目
- 不可能对每个项目进行手动部署,涉及到自动化运维的问题

持续集成

持续集成(Continues Integration,简称CI)
持续集成指的是,频繁(一天多次)地将代码集成到主干,优点有两个:
- 快速发现错误: 每完成一点更新, 就集成到主干,可以快速发现错误,定位错误
- 防止分支大幅偏离主题: 如果不是经常集成,主干又在不断更新,会导致以后集成难度变大,甚至难以集成
持续集成强调:开发人员提交了新的代码之后,立即进行构建,(单元)测试,根据测试结果,确定新代码和原有代码能否集成到一起
与集成相关的概念还有持续交付和持续部署

使用GitLab持续集成

GitLab8.0以后,GitLab CI就已经集成在GitL中,只要在项目中添加一个 .gitlab-ci.yml文件,然后添加一个Runner,就可以进行持续集成
Pipeline
- Pipeline: 管道 ,一次Pipeline相当于一次构建任务,可以包含多个流程:安装依赖,运行测试,编译,部署测试服务器,部署生产服务器等流程
- 任何提交或者Merge Request的合并都可以触发Pipeline
Stages
- Stages表示构建阶段,也就是上面的流程,可以在一次Pipeline中构建多个Stages,这些Stages的特点:
  - 所有Stages会按照顺序运行: 即当一个Stage完成后,下一个Stage才会开始
  - 只有当所有Stages完成后,该构建任务(Pipeline)才会成功
  - 如果任何一个Stage失败,那么后续的Stages都不会执行,该构建任务(Pipeline)失败
Jobs
- Jobs表示构建工作,表示某个Stage里面执行的工作,可以在Stages里定义多个Jobs,这些Jobs特点:
  - 相同Stage中的Jobs会并行执行
  - 相同Stage中的Jobs都执行成功时,该Stage才会执行成功
  - 如果任何一个Job失败,那么该Stage失败,即构建任务(Pipeline)失败

持续交付

持续交付(Continuous Delivery):
- 频繁地将软件的新版本,交付给质量团队或用户以供评审
- 评审通过,代码就进入生产阶段
持续交付是持续集成的下一步,强调的是:不管怎么更新,软件是随时随地可以交付的
持续交付是在持续集成的基础上,将集成后的代码部署到更接近真实运行环境的类生产环境(production-like environment)中

持续部署

持续部署(Continuous Deployment)是持续交付的下一步,指的是代码通过评审后,自动部署到生产环境
持续部署的目标: 代码在任何时刻都是可部署的,可进入生产阶段
持续部署的前提: 自动化完成测试,构建,部署等步骤

GitLab Runner

GitLab CI

一般来说,构建任务会占用很多的系统资源(编译代码时),由于GitLab CI是GitLab的一部分,由GitLab CI来运行构建任务的化,GitLab的性能会大大下降
GitLab CI最大的作用: 是管理各个项目的构建状态

GitLab Runner

GitLab Runner可以安装到不同的机器上,在构建任务运行期间不会影响GitL的性能
基于Docker安装GitLab Runner:

1.创建工作目录: /usr/local/docker/runner
2.创建构建目录: /usr/local/docker/runner/environment
3.下载jdk-8u152-linux-x64.tar.gz复制到/usr/local/docker/runner/environment
4.下载apache-maven-3.5.3-bin.tar.gz复制到/usr/local/docker/runner/environment


daemon.json
1.在/usr/local/docker/runner/environment目录下创建daemon.json,用于配置加速器和仓库地址
-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
{
	"registry-mirrors":[
		"https://registry.docker-cn.com"
	],
	"insecure-registries":[
		"127.0.0.1:5000"
	]
}
----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------


Dockerfile
1.在 /usr/local/docker/runner/environment目录下创建Dockerfile
---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
FROM gitlab/gitlab-runner
MAINTAINER Lusifer <topsale@vip.qq.com>
# 修改软件源
RUN echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial main restricted universe multiverse' > /etc/apt/sources.list && \
    echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial-security main restricted universe multiverse' >> /etc/apt/sources.list && \
    echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial-updates main restricted universe multiverse' >> /etc/apt/sources.list && \
    echo 'deb http://mirrors.aliyun.com/ubuntu/ xenial-backports main restricted universe multiverse' >> /etc/apt/sources.list && \
    apt-get update -y && \
    apt-get clean
# 安装 Docker
RUN apt-get -y install apt-transport-https ca-certificates curl software-properties-common && \
    curl -fsSL http://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | apt-key add - && \
    add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable" && \
    apt-get update -y && \
    apt-get install -y docker-ce
COPY daemon.json /etc/docker/daemon.json
# 安装 Docker Compose
WORKDIR /usr/local/bin
RUN wget https://raw.githubusercontent.com/topsale/resources/master/docker/docker-compose
RUN chmod +x docker-compose
# 安装 Java
RUN mkdir -p /usr/local/java
WORKDIR /usr/local/java
COPY jdk-8u152-linux-x64.tar.gz /usr/local/java
RUN tar -zxvf jdk-8u152-linux-x64.tar.gz && \
    rm -fr jdk-8u152-linux-x64.tar.gz
# 安装 Maven
RUN mkdir -p /usr/local/maven
WORKDIR /usr/local/maven
# RUN wget https://raw.githubusercontent.com/topsale/resources/master/maven/apache-maven-3.5.3-bin.tar.gz
COPY apache-maven-3.5.3-bin.tar.gz /usr/local/maven
RUN tar -zxvf apache-maven-3.5.3-bin.tar.gz && \
    rm -fr apache-maven-3.5.3-bin.tar.gz
# COPY settings.xml /usr/local/maven/apache-maven-3.5.3/conf/settings.xml
# 配置环境变量
ENV JAVA_HOME /usr/local/java/jdk1.8.0_152
ENV MAVEN_HOME /usr/local/maven/apache-maven-3.5.3
ENV PATH $PATH:$JAVA_HOME/bin:$MAVEN_HOME/bin

WORKDIR /
--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

docker-compose.yml
在 /usr/local/docker/runner 目录下创建 docker-compose.yml
---------------------------------------------------------------------------------------------------------------------------------------------------------------------------
# 表示从 environment 目录下寻找 Dockerfile，即在Docker 里装 Docker
version: '3.1'
services:
  gitlab-runner:
    build: environment
    restart: always
    container_name: gitlab-runner
    privileged: true
    volumes:
      - ./config:/etc/gitlab-runner
      - /var/run/docker.sock:/var/run/docker.sock
------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

构建镜像并启动
- 在/usr/local/docker/runner目录下执行:
```
docker-compose build
```

注册 Runner

启动容器在/usr/local/docker/runner目录下执行命令启动:

docker-compose up

进入容器自动执行注册流程,在/usr/local/docker/runner目录下执行(后面gitlab-runner register时脚本命令):

docker exec -it gitlab-runner gitlab-runner register

打开 GitLab,进入持续集成设置界面
在交互式终端中填入 Git Lab 提供的 URL 和 token

Please enter the gitlab-ci coordinator URL (e.g. https://gitlab.com/):
http://192.168.1.21/
Please enter the gitlab-ci token for this runner:
kTx_PUnx_hhy63pNJtqM
Please enter the gitlab-ci description for this runner:
[c77b5e39a2a6]: 
Please enter the gitlab-ci tags for this runner (comma separated):

Registering runner... succeeded                     runner=kTx_PUnx
Please enter the executor: docker, shell, ssh, docker-ssh+machine, docker+machine,     kubernetes, docker-windows, docker-ssh, parallels, virtualbox:
shell
Runner registered successfully. Feel free to start it, but if it's running already the config   should be automatically reloaded!

 docker exec -it gitlab-runner gitlab-runner register

 # 交互式配置说明:

 # 输入GitLab地址
 Please enter the gitlab-ci coordinator URL(e.g. https://gitlab.com/)
 http://192.168.32.255/

 # 输入GitLab Token
 Please enter the gitlab-ci token for this runner:
 kTx_PUnx_hhy63pNJtqM

 # 输入Runner的说明
 Please enter the gitlab-ci description for this runner:
 可以不填为空

 # 设置Tag,用于指定在构建规定的tag时触发ci,如果不设置,默认每次都会触发ci
 Please enter the gitlab-ci tags for this runner (comma separate):
 deploy

 # 这里选择true,用于代码上传后直接执行
 Whether to run utagged builds [true/false]:
 true

 # 这里选择false,可以直接回车,默认false
 Whether to lock Runner to current project [true/false]:
 false

 # 选择runner执行器,这里选择shell
 Please enter the executor: virtualbox,docker+machine,parallels,shell,ssh,docker-ssh+machine,kubernetes,docker,docker-ssh:
 shell

使用Runner

在项目工程下编写 .gitlab-ci.yml文件:

stages:
 - install_deps
 - test
 - build
 - deploy_test
 - deploy_production

cache:
 key: ${CI_BUILD_REF_NAME}
 paths:
  - node_modules/
  - dist/

# 安装依赖
install_deps:
 stage: install_deps
 only:
  - develop
  - master
 script:
  - npm install

# 运行测试用例
test:
 stage: test
 only:
  - develop
  - master
 script:
  - npm run test

# 编译
build:
 stage: build
 only:
  - develop
  - master
 script:
  - npm run clean
  - npm run build:client
  - npm run build:server

# 部署测试服务器
deploy_test:
 stage: deploy_test
 only:
  - develop
 script:
  - pm2 delete app || true
  - pm2 start app.js --name app

# 部署生产服务器
deploy_production:
 stage: deploy_production
 only:
  - master
 script:
  - bash scripts/deploy/deploy.sh

提交项目之后,就会执行Runner

在项目工程下创建docker文件夹,创建Dockerfile

FROM openjdk:8-jre

MAINTAINER Chova

# 环境变量
ENV APP_VERSION 1.0.0-SNAPSHOT
# Docker插件,用来检测依赖项,只有依赖项启动才会启动
ENV DOCKERIZE_VERSION v0.6.1

RUN wget https://github.com/jwilder/dockerize/release/download/$DOCKERIZE_VERSION/dockerize-linux-amd64-$DOCKERIZE_VERSION.tar.gz \
	&& tar -C /usr/local/bin -xzvf dockerize-linux-amd64-$DOCKERIZE_VERSION.tar.gz \
	&& rm dockerize-linux-amd64-$DOCKERIZE_VERSION.tar.gz 

RUN mkdir /app

COPY myshop-service-user-provider-$APP_VERSION.jar /app/app.jar
ENTRYPOINT ["dockerize", "-timeout", "5m", "-wait", "tcp://192.168.32.255.131:3306", "java", "-Djava.security.egd=file:/dev/./urandom", "-jar", "/app/app.jar"]

EXPOSE 8501

Dockerfile:

---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
FROM openjdk:8-jdk-alpine
VOLUME /tmp
ARG JAR_FILE
COPY ${JAR_FILE} app.jar
ENTRYPOINT ["java","-jar","/app.jar"]
---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

1.FROM: 这是引入一个父镜像,在此基础上进行添加只读层.镜像可以理解成由一层层只读层组成,
		FORM下面的命令,可以理解就是在已有的只读层,添加只读层.FORM可以有多个,但最上面的一定是FROM命令

2.VOLUME: 配置一个具有持久化功能的目录,主机 /var/lib/docker 目录下创建了一个临时文件,并链接到容器的/tmp.该步骤是可以省略的
		  默认情况下,容器不使用任何 volume,此时,容器的数据被保存在容器之内,它只在容器的生命周期内存在,会随着容器的被删除而被删除
		  如果不想在容器删除后,容器的数据也被删除,那么就可以指定持久化目录.它被设计用来保存数据，而不管容器的生命周期.因此,当你删除一个容器时,Docker不会自动地删除一个volume

3.ARG:设置编译镜像时加入的参数,可以省略

4.COPY:只支持将本地文件复制到容器,还有个ADD更强大但复杂点

5.ENTRYPOINT:容器启动时执行的命令

删除所有为的镜像

docker rmi $(docker images -q -f dangling=true)

在docker-compose.yml中配置默认使用已经存在的网络

version: '3.1'
services:
  myshop-service-user-provider:
    image: 192.168.32.255:5000/myshop-service-user-provider:v1.0.0
    container_name: myshop-service-user-provider
    ports:
      - 8501:8501
      - 22222:22222
      - 20881:20881
    # 配置容器连接的网络
networks:
  default:
    external:
      name: dubbo