服务化是现代软件架构的核心。部署一系列模块化的小型服务而非庞大的单体应用,可以给开发者更大的灵活性。开发者对不同模块可以使用不同的技术,不同的语言采用不同的版本,以实现更高的效率和速度,这一点对大型开发尤为重要。

采用微服务,新问题也随之而来。因为大型系统中会包含大量微服务。独立应用需要面对的问题,例如安全,负载均衡,监控,请求频率限定等在每个服务中都需要处理。

Kubernetes和服务

Kubernetes通过服务构建支持微服务架构。 它允许开发者抽象出一系列的Pods,然后通过定义好的API开放给其他开发者。它允许在这层抽象上赋予服务一个名字同时执行4层基础负载均衡。但它并不能解决高级问题,例如7层上的metrics,请求频率限定,通信分流,回路中断等等。

刚刚在gluecon 2017上发布的Istio,在根本上解决了这些问题。通过Istio, 开发者可以专注于微服务的核心逻辑,而让框架负责其他- 通信管理,服务发现,服务认证,安全和策略强化。更好的是,这些可以直接加到已有的微服务上而不必重写或重新编译。 Istio使用Envoy作为运行代理模块,提供可扩展的中间层,可以允许跨服务的策略实施和遥测metrics采集。

当前的Istio版本专门针对Kubernetes用户,只需要安装几行代码就可以使Kubernetes微服务即刻获得可视化,弹性,安全管理和控制功能。

我们会在一系列的博客帖子中,讲解由四个微服务组成的简单应用。先来看怎样用单纯的Kubernetes来部署应用。接下来将要把同样的服务部署到Istio集群而不需要更改任何应用代码,同时提供metrics。

在接下来的帖子中,我们会更关注更先进的功能例如HTTP 请求路由,策略,认证和安全管理。

应用范例: Bookinfo

Bookinfo是一个简单应用,其功能包括展示信息,检查和评价书店的书籍。这个应用由不同语言编写的4个微服务组成。

服务网格的优缺点 服务网格化管理模式_运维

这些容器镜像都可以在Docker Hub上找到,在Kubernetes上部署只需要配置yaml就可以了。

值得一提的是这些微服务并不依赖于Kubernetes和Istio。 这些服务的数量,语言和版本的多样性使之成为一个理想的服务网格范例。关于此示例的更多信息,请参见此处。

在Kubernetes中运行Bookinfo

我们先关注这个应用的第一个版本:

服务网格的优缺点 服务网格化管理模式_java_02

用Kubernetes部署和部署其它服务没有什么不同。

ProductPage 微服务的配置文件如下:

服务网格的优缺点 服务网格化管理模式_微服务_03

app: productpage

服务网格的优缺点 服务网格化管理模式_服务网格的优缺点_04

另外两个微服务是Details和reviews-v1,使用productpage同样的方式部署。 Ratings服务则暂时无需部署。所有服务的yaml文件可以在这里找到。

作为普通Kubernetes app运行微服务:
kubectl apply -f bookinfo-v1.yaml

如果要从外部集群访问应用,需要提供productpage服务的Nodeport地址:

服务网格的优缺点 服务网格化管理模式_java_05

现在可以通过链接地址用浏览器访问应用了: http://$BOOKINFO_URL/productpage。

服务网格的优缺点 服务网格化管理模式_微服务_06

使用Istio运行Bookinfo应用

现在稍微调整一下部署,把Istio用上。首先在集群中安装Istio,然后再安装Prometheus,Grafana和Zipkin。我们现在可以把之前的版本删掉,用同样的yaml配置文件重启应用,不过加上Istio。

服务网格的优缺点 服务网格化管理模式_java_07

请注意,在部署之前,我们用istioctl kube-inject命令更改了bookinfo-v1.yaml。它会把Envoy sidecar加入到Kubernetes pod,最终结果就是微服务和Envoy sidecar打包在一起并管理整个服务的通信。

在Istio网格服务中不是直接访问应用,而是通过在访问路径中加入Envoy sideca,由Istio的管理功能来控制productpage的外部调用。 Istio的 ingress controller就是用于这个目的。

要使用ingress controller,需要在Kubernetes中为应用创建ingress resource,就象下面这样:

服务网格的优缺点 服务网格化管理模式_服务网格的优缺点_08

使用Istio和v1版本的bookinfo应用程序生成的部署如下所示:

服务网格的优缺点 服务网格化管理模式_微服务_09

设置Istio Ingress controller的NodePort address:

服务网格的优缺点 服务网格化管理模式_java_10

现在我们可以通过链接 http://$BOOKINFO_URL/productpage访问productpage,对用户来说,这和之前没有Istio一样。

收集Metrics

Istio的另外一个功能是为普罗米修斯提供metrics。这些metrics由Envoy产生,根据定义好的规则(也可以客户化)收集并发送给普罗米修斯。这些metrics也可以用Grafana的Istio仪表盘来图形化展现。尽管普罗米修斯是缺省的监控工具,Istio也允许使用其他工具,这个在未来的博客中会提到。

下面,我们会运行一条命令来给应用加负载:
wrk -t1 -c1 -d20s http://$BOOKINFO_URL/productpage

设置Grafana’s NodePort URL:
export GRAFANA_URL=$(kubectl get po -l app=grafana -o jsonpath={.items[0].status.hostIP}):$(kubectl get svc grafana -o jsonpath={.spec.ports[0].nodePort})

打开链接 http://$GRAFANA_URL/dashboard/db/istio-dashboar, 可以检查每个bookinfo服务的性能指标。

服务网格的优缺点 服务网格化管理模式_服务网格的优缺点_11

分布式跟踪

Istio的另一项功能是利用Zipkin进行跟踪。我们获得它的NodePort URL:
export ZIPKIN_URL=$(kubectl get po -l app=zipkin -o jsonpath={.items[0].status.hostIP}):$(kubectl get svc zipkin -o jsonpath={.spec.ports[0].nodePort})

通过链接http://$ZIPKIN_URL/ 可以跟踪整个bookinfo服务流程。

服务网格的优缺点 服务网格化管理模式_运维_12

尽管Envoy代理会把所有跟踪记录发给Zipkin。应用还是需要把一些记录头标识发给Zipkin,以便把所有相关记录串起来。详细信息请参阅zipkin-tracing。

整体视图

Istio的metrics功能远不只是方便,它通过统一的metrics为服务网格提供连贯一致的视图。这样我们不用再担心如何整合不同agent产生的metrics,不用再担心如何为传统app插入agent来收集metrics,也不用再担心如何在开发流程中控制应用产生metrics。服务网格会监控所有的通信,包括那些传统的黑盒子类的应用,并产生统一的metrics。

荐一个交流学习群:478030634 里面会分享一些资深架构师录制的视频录像:有Spring,MyBatis,Netty源码分析,高并发、高性能、分布式、微服务架构的原理,JVM性能优化这些成为架构师必备的知识体系。还能领取免费的学习资源,目前受益良多:

服务网格的优缺点 服务网格化管理模式_java_13