Kubernetes在拉取私服(Harbor)镜像时,经常出现问题,导致ImagePullBackOff。查看kubectl describe pod …,还经常发现这类错误:

Failed to pull image “192.168.1.13:9080/ces/ces-gateway:1.1-SNAPSHOT”: rpc error: code = Unknown desc = Error response from daemon: unauthorized: unauthorized to access repository: ces/ces-gateway, action: pull: unauthorized to access repository: ces/ces-gateway, action: pull

又或者:

Failed create pod sandbox: rpc error: code = Unknown desc = failed pulling image …Error response from daemon: pull access denied for …repository does not exist or may require ‘docker login’

这是因为没有正确配置pull权限所致。

~/.docker/config.json无效

首先,不要寄望于~/.docker/config.json。与Docker Swarm不同,Kubernetes不会使用这里的配置来pull。

当然,用docker login测试过账户、密码、Registry、镜像均无误后,再走下一步,是更好的选择。

使用imagePullSecrets

通过创建docker-registry类的secrets,可以实现类似docker login的功能。

regcred secrets 名称

kubectl create secret docker-registry regcred \    
--docker-server= \    
--docker-username= \    
--docker-password= \    
--docker-email=

其中.dockerconfigjson的值包含了登录harbor的用户名和密码等信息,通过以下命令进行查看:

kubectl get secret regcred --output="jsonpath={.data.\.dockerconfigjson}" | base64 -d

其中,server、username和password都是必填项,email可以不填。

在使用时,把imagePullSecrets添加到Pod配置中。

apiVersion: v1
kind: Pod
metadata:
  name: private-reg
spec:
  containers:
  - name: private-reg-container
    image: your-private-image
  imagePullSecrets:
  - name: regcred

其中,regcred为secrets名称,可随意指定。

注意Namespace

即使创建了secrets、配置了imagePullSecrets,有时仍然无法pull镜像。比如Calico的相关镜像,如果被同步到了本地一个私有Registry中,一般配置时无效的。

这是因为,Calico属于系统Network组件,Namespace是kube-system。而一般创建的secrets,属于default。通过以下命令可以查看特定secrets的详细信息。

# kubectl get secret regcred -o yaml
apiVersion: v1
data:
  .dockerconfigjson: eyJhdXRocyI6eyJodHRwOi8vaGFyYm9yLnR1cmluZy1jaS5oaXNpbGljb24uY29tIjp7IlVzZXJuYW1lIjoiY2hyaXN0b3BoZXIiLCJQYXNzd29yZCI6IlFpZGRZYWZkQmF2YTYjIiwiRW1haWwiOiJ5MDA0NDU0ODBAbm90ZXNtYWlsLmh1YXdlaS5jb20ifX19
kind: Secret
metadata:
  creationTimestamp: "2019-01-10T08:51:03Z"
  name: regcred
namespace: default
  resourceVersion: "100110"
  selfLink: /api/v1/namespaces/default/secrets/regcred
  uid: dc96580b-14b4-11e9-9f81-e435c87f8d90
type: kubernetes.io/dockerconfigjson

在创建secrets时需要指定Namespace:

kubectl --namespace kube-system \
    create secret docker-registry regcred \
    --docker-server= \
    --docker-username= \
    --docker-password= \
    --docker-email=

不同Namespace,secrets可以同名,所以仍然可以叫regcred。

注意:或者,在secrets创建后可以修改一些内容:

kubectl edit secret regcred --namespace=kube-system

但不能修改Namespace。所以,必须在创建时准确指定。

用patch避免设置imagePullSecrets

每个私有镜像在使用前,都需要设置imagePullSecrets,这是一件非常繁琐的事。在迁移服务时,它能有效地提醒secrets的迁移。这是一个优点,但能被良好的迁移文档所解决。

用patch可以避免这么繁琐。

kubectl patch serviceaccount default -p '{"imagePullSecrets": [{"name": "regcred"}]}'

这相当于,在default这个Namespace中的所有镜像pull操作,都自动具备了regcred这个账户密码。

终于,和docker login一样了。

注意:这里的示例只针对default这个Namespace。其它的Namespace需要一一执行patch。某些场景下,比如网络组件Calico,似乎只能老老实实地写imagePullSecrets。

对k8s系统镜像无效

系统镜像中,kube-proxy、pause是在所有Slave节点都需要使用的。如果这些系统镜像被设为私有,则无法下载。以上方法无效,原因不明。

所以,k8s系统镜像,即使同步到了本地Registry,也不要设为私有。