理解 covariate shift
Batch Norm 的方法
似乎是对每层的输入都进行Normalization,BN是按照特征的,即对应每一个输入$a_i$的多个数据求平均、方差再标准化(LN貌似是每层层内标准化)
如果您喜欢此博客或发现它对您有用,则欢迎对此发表评论。 也欢迎您共享此博客,以便更多人可以参与。 如果博客中使用的图像侵犯了您的版权,请与作者联系以将其删除。 谢谢 !
理解 covariate shift
Batch Norm 的方法
似乎是对每层的输入都进行Normalization,BN是按照特征的,即对应每一个输入$a_i$的多个数据求平均、方差再标准化(LN貌似是每层层内标准化)
如果您喜欢此博客或发现它对您有用,则欢迎对此发表评论。 也欢迎您共享此博客,以便更多人可以参与。 如果博客中使用的图像侵犯了您的版权,请与作者联系以将其删除。 谢谢 !