批标准化是最近兴起的一项技术,核心思想是标准化这个过程是可微的,减少了很多不合理初始化的问题,所以我们将标准化用到了神经网络中的每一层中做前向传播和反向传播,通常批标准化应用在全连接层的后面,非线性层的前面, 在卷积神经网络中,他对于很坏的初始化有很强的鲁棒性,同时可以加快神经网络的收敛速度,批标准化可以理解为在网络的每一层前面都会做数据预处理!!!