nvidia-smi是用来查看GPU使用情况的。
上面的表格中：
第一栏的Fan：N/A是风扇转速，从0到100%之间变动，这个速度是计算机期望的风扇转速，实际情况下如果风扇堵转，可能打不到显示的转速。有的设备不会返回转速，因为它不依赖风扇冷却而是通过其他外设保持低温（比如我们实验室的服务器是常年放在空调房间里的）。
第二栏的Temp：是温度，单位摄氏度。
第三栏的Perf：是性能状态，从P0到P12，P0表示最大性能，P12表示状态最小性能。
第四栏下方的Pwr：是能耗，上方的Persistence-M：是持续模式的状态，持续模式虽然耗能大，但是在新的GPU应用启动时，花费的时间更少，这里显示的是off的状态。
第五栏的Bus-Id是涉及GPU总线的东西，domain:bus:device.function
第六栏的Disp.A是Display Active，表示GPU的显示是否初始化。
第五第六栏下方的Memory Usage是显存使用率。
第七栏是浮动的GPU利用率。
第八栏上方是关于ECC的东西。
第八栏下方Compute M是计算模式。
下面一张表示每个进程占用的显存使用率。
TCC/WDDM：NVIDIA 高性能 GPU（如Tesla, Quadro）可以配置为 TCC（Tesla Compute Cluster）模式或 WDDM（Windows Display Driver Model）模式。
二者区别在于，TCC 模式下，GPU完全用于计算，并不需要本地显示功能；而 WDDM 模式下，GPU 同时扮演计算卡 + 显卡的角色。
用途：
1. Windows系统下远程桌面cuda程序的运行
2. Windows系统下GPU集群环境cuda集群程序的运行
TCC全名Tesla Compute Cluster是Nvidia显卡的两种驱动模式之一，另一种模式是WDDM（默认模式，全名Windows Display Driver Model）。
使用nvidia-smi工具可打开TCC模式，nvidia-smi是Nvidia提供的显卡管理接口(System Management Interface)，位于驱动安装根目录的NVSMI文件夹中，全名nvidia-smi.exe。当然，该工具的主要作用不单是用来开启TCC，而是用来管理显卡，有关此工具的其他功能可直接输入-h进行查看。通常还需要c++编译器，把cl.exe添加到路径
显存占用和GPU占用是两个不一样的东西，显卡是由GPU和显存等组成的，显存和GPU的关系有点类似于内存和CPU的关系。跑caffe代码的时候显存占得少，GPU占得多，跑TensorFlow代码的时候，显存占得多，GPU占得少。
