GPU服务器参数——GPU服务器应该如何选择
2019/11/08 作者： 互盟股份
简单来看，选择-GPU-有四个重要参数：浮点运算能力、显存、数据传输与价格。
对于很多科学计算而言，服务器性能主要决定于-GPU-的浮点运算能力。特别是对深度学习任务来说，单精浮点运算以及更低的半精浮点运算性能则更为重要。
如果资金充足的情况下，可以选择应用-NVLink-技术单精计算性能高、显存大的-GPU-卡片。如果资金有限的话，则要仔细考量核心需求，选择性价比更高的-GPU-卡片。
内存大小的选择
心理学家告诉我们，专注力这种资源会随着时间的推移而逐渐耗尽。内存就是为数不多的，让你保存注意力资源，以解决更困难编程问题的硬件之一。
与其在内存瓶颈上兜转，浪费时间，不如把注意力放在更加紧迫的问题上。如果你有更多的内存，有了这一前提条件，你可以避免那些瓶颈，节约时间，在更紧迫问题上投入更多的生产力。
所以，如果资金充足而且需要做很多预处理工作，应该选择至少和-GPU-内存大小相同的内存。虽然更小的内存也可以运行，但是这样就需要一步步转移数据，整体效率上则大打则扣。总的来说内存越大，工作起来越舒服。
硬盘驱动器/SSD
在一些深度学习案例中，硬驱会成为明显的瓶颈。如果数据组很大，通常会在硬驱上放一些数据，内存中也放一些，GPU-内存中也放两-mini-batch。为了持续供给-GPU，我们需要以-GPU-能够跑完这些数据的速度提供新的-mini-batch。
为此，可以采用和异步-mini-batch-分配一样的思路，用多重-mini-batch-异步读取文件。如果不异步处理，结果表现会被削弱很多(5-10%)，而且让认真打造的硬件优势荡然无存。那么，这时候就需要-SSD，因为-100-150MB/S-的硬驱会很慢，不足以跟上-GPU。
许多人买一个-SSD-是为了舒服：程序开始和响应都快多了，大文件预处理也快很多，但是，对于深度学习来说，仅当输入维数很高，不能充分压缩数据时，这才是必须的。
如果买了-SSD，则应该选择能够存下和使用者通常要处理的数据集大小相当的存储容量，也额外留出数十-GB-的空间。另外用普通硬驱保存尚未使用的数据集的主意也不错。
