终于知道为什么要freeze BN层，以及如何freeze

一、什么是Batch Normalization（BN)层
BN层是数据归一化的方法，一般都是在深度神经网络中，激活函数之前，我们在训练神经网络之前，都会对数据进行预处理，即减去均值和方差的归一化操作。但是随着网络深度的加深，函数变的越来越复杂，每一层的输出的数据分布变化越来越大。BN的作用就是把数据强行拉回我们想要的比较好的正态分布下。这样可以在一定程度上避免梯度爆炸或者梯度消失的问题，加快收敛的速度。
二、BN是如何操作的

I

n

p

u

t

:

终于知道为什么要freeze BN层，以及如何freeze最先出现在Python成神之路。