在Kubernetes中使用GPU需要进行如下步骤：

  • 安装NVIDIA GPU驱动
    在Kubernetes节点上安装NVIDIA GPU驱动，可以使用NVIDIA提供的官方安装脚本。
  • 安装nvidia-docker
    安装nvidia-docker，以便在容器中访问GPU。具体安装方法可以查看nvidia-docker官方文档。
  • 配置GPU资源
    在Kubernetes中配置GPU资源，以便调度器可以正确地将容器调度到GPU节点上。可以使用以下的yaml文件来定义GPU资源：
apiVersion: v1
kind: Pod
metadata:
  name: gpu-pod
spec:
  containers:
  - name: gpu-container
    image: nvidia/cuda:9.0-base
    resources:
      limits:
        nvidia.com/gpu: 1

这里的资源限制定义了使用1个NVIDIA GPU。

  • 部署带GPU的容器
    使用kubectl apply命令部署带GPU的容器：
kubectl apply -f gpu-pod.yaml

这样就可以在容器中使用GPU进行计算了。同时，Kubernetes可以自动地将GPU容器调度到支持GPU的节点上，以便最大化利用GPU资源。

总的来说，需要安装驱动、docker、kubelet、NVIDIA device plugin等工具支持，然后使用带有NVIDIA GPU的容器进行测试。需要注意的是，每个GPU只能分配给一个Pod，而且Pod中的所有容器都可以共享该GPU。

另外参考：
​​​https://www.orchome.com/1733​​