【论文阅读】(BN) Batch Normalization:Accelerating Deep Network Training by Reducing Internal Covariate Shift

Posted by UUQ on 2024-09-25
Estimated Reading Time 1 Minutes
Words 71 In Total
Viewed Times

理解 covariate shift

CSDN博客补充

Batch Norm 的方法

似乎是对每层的输入都进行Normalization,BN是按照特征的,即对应每一个输入$a_i$的多个数据求平均、方差再标准化(LN貌似是每层层内标准化)

PDF with note


如果您喜欢此博客或发现它对您有用,则欢迎对此发表评论。 也欢迎您共享此博客,以便更多人可以参与。 如果博客中使用的图像侵犯了您的版权,请与作者联系以将其删除。 谢谢 !