什么是批标准化 (Batch Normalization)

Batch Normalization, 批标准化, 和普通的数据标准化类似, 是将分散的数据统一的一种做法。

训练更深层的神经网络一直是深度学习中提高模型性能的重要手段之一。

批规范化操作,不仅加快了模型收敛速度,而且更重要的是在一定程度缓解了深层网络的一个难题“梯度弥散”,从而使得训练深层网络模型更加容易和稳定。另外,批规范化操作不光适用于深层网络,对传统的较浅层网络而言,批规范化也能对网络泛化性能起到一定提升作用。目前批规范化已经成为了几乎所有卷积神经网络的标配。

首先,我们来看一下批规范化操作(简称 BN)的流程。顾名思义,“批规范化”,即在模型每次随机梯度下降训练时,通过mini-batch来对相应的网络响应做规范化操作,使得结果(输出信号各个维度)的均值为0,方差为1。

BN 算法

什么是批标准化 (Batch Normalization)

我们引入一些 batch normalization 的公式. 这三步就是我们在刚刚一直说的 normalization 工序, 但是公式的后面还有一个反向操作, 将 normalize 后的数据再扩展和平移. 原来这是为了让神经网络自己去学着使用和修改这个扩展参数 gamma, 和 平移参数 β, 这样神经网络就能自己慢慢琢磨出前面的 normalization 操作到底有没有起到优化的作用, 如果没有起到作用, 我就使用 gamma 和 belt 来抵消一些 normalization 的操作.

什么是批标准化 (Batch Normalization)

最后我们来看看一张神经网络训练到最后, 代表了每层输出值的结果的分布图. 这样我们就能一眼看出 Batch normalization 的功效啦. 让每一层的值在有效的范围内传递下去。

BN 来规范化某些层或所有层的输入,从而可以固定每层输入信号的均值与方差。这样一来,即使网络模型较深层的响应或梯度很小,也可通过BN的规范化作用将其的尺度变大,以此便可解决深层网络训练很可能带来的“梯度弥散”问题。

在实验中, 研究人员发现可通过BN来规范化某些层或所有层的输入,从而可以固定每层输入信号的均值与方

差。这样一来,即使网络模型较深层的响应或梯度很小,也可通过BN的规范化作用将其的尺度变大,以此便可解决深层网络训练很可能带来的“梯度弥散”问题。

一个直观的例子:对一组很小的随机数做ℓ2 规范化操作:

什么是批标准化 (Batch Normalization)

关于BN 的使用位置,在卷积神经网络中BN 一般应作用在非线性映射函数前。另外,若神经网络训练时遇到收敛速度较慢,或“梯度爆炸”等无法训练的状况发生时也可以尝试用BN来解决。同时,常规使用情况下同样可加入BN 来加快模型的训练速度,甚至提高模型精度。

相关概念

归一化:

1)把数据变成(0,1)或者(1,1)之间的小数。主要是为了数据处理方便提出来的,把数据映射到0~1范围之内处理,更加便捷快速。

2)把有量纲表达式变成无量纲表达式,便于不同单位或量级的指标能够进行比较和加权。归一化是一种简化计算的方式,即将有量纲的表达式,经过变换,化为无量纲的表达式,成为纯量。

标准化:

在机器学习中,我们可能要处理不同种类的资料,例如,音讯和图片上的像素值,这些资料可能是高维度的,资料标准化后会使每个特征中的数值平均变为0(将每个特征的值都减掉原始资料中该特征的平均)、标准差变为1,这个方法被广泛的使用在许多机器学习算法中(例如:支持向量机、逻辑回归和类神经网络)。

中心化:平均值为0,对标准差无要求

归一化和标准化的区别:

归一化是将样本的特征值转换到同一量纲下把数据映射到[0,1]或者[-1, 1]区间内,仅由变量的极值决定,因区间放缩法是归一化的一种。标准化是依照特征矩阵的列处理数据,其通过求z-score的方法,转换为标准正态分布,和整体样本分布相关,每个样本点都能对标准化产生影响。它们的相同点在于都能取消由于量纲不同引起的误差;都是一种线性变换,都是对向量X按照比例压缩再进行平移。

标准化和中心化的区别:

标准化是原始分数减去平均数然后除以标准差,中心化是原始分数减去平均数。 所以一般流程为先中心化再标准化。

无量纲:我的理解就是通过某种方法能去掉实际过程中的单位,从而简化计算。

125jz网原创文章。发布者:江山如画,转载请注明出处:http://www.125jz.com/11121.html

(0)
上一篇 2022年9月22日 上午9:44
下一篇 2022年9月22日 下午2:17

99%的人还看了以下文章

  • 华为手机的这个功能,没WiFi也能传文件,比“蓝牙”快100倍

    今天125网页设计小编给大家分享的是华为手机的Huawei Share功能,此功能传输速度媲美无线局域网,还不需要连接WiFi,实用性非常的高。操作之前,请确保收发双方的手机均支持Huawei Share功能。 以华为P9手机为例: 1:在下拉开关栏快捷键中,开启Huawei Share; 2:在你的手机上,选择你想分享的文件,点击【分享】,然后点击【Hua…

    2020年2月25日
    2.9K0
  • 怎么取消“红包来了”提醒,微信红包提醒怎样关闭?

    为响应很多人的需求,微信推出了红包提醒功能,当有人在群里发红包时,会提示“红包来了”! 如何设置“红包来了”提醒功能? 1、登陆微信,点击底部菜单栏—>我—>设置—>新消息提醒;2、进入到新消息提醒后,如果发现“声音”未打开,就请打开(但大多数安装微信后是默认已经打开的);3、可以借助网上软件,来设置红包来了的消息提醒。 可是当正在与人谈,…

    2020年3月15日
    7.1K0
  • 2019年度山东省人文社会科学课题指南

    2019年度山东省人文社会科学课题以马克思列宁主义、毛泽东思想、邓小平理论、“三个代表”重要思想、科学发展观、习近平新时代中国特色社会主义思想为指导,深入贯彻落实党的十九大精神,深入贯彻全国宣传思想工作会议精神和《中共中央关于加快构建中国特色哲学社会科学的意见》,全面落实习近平总书记视察山东重要讲话、重要指示批示精神,坚持解放思想、实事求是、与时俱进、求真务…

    2019年4月12日
    3.6K0
  • 人工智能(AI)发展史、技术架构、知识体系、研究热点及应用场景(经典图解)

    人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 人工智能的发展史 人工智能(AI)的技术架构、知识体系 人工智能(AI)研究热点及应用场景

    2019年12月7日 科技
    4.0K0
  • 我国高校人工智能学院:现状、问题及发展方向

    关键词: 新一代人工智能;人工智能学院;高质量发展;新工科 首见:机器学习研究会 转载自:《 现代远距离教育》2019年第3期 总第183期 人工智能是新一轮科技革命和产业变革的核心驱动力,给我国经济社会带来了极其深远的影响,既为促进经济建设注入了新动能,又为服务社会发展带来了新机遇。当前,我国政府高度重视发展人工智能,并从国家战略高度全面推进人工智能领域发…

    2019年7月5日 科技
    2.1K0
  • 学点少儿编程,提高孩子逻辑能力

    烟台市莱山区杰客编程培训学校 联系人:  蔡老师   电话:15552261268 微信: 地址:山东省烟台市莱山区迎春大街133号——科技创业大厦 孩子早学编程早受益 赶快拨打电话报名吧! 中国青年报社社会调查中心,对2007名受访者进行的一项调查显示,54.4%的受访者觉得孩子有必要专门学习少儿编程培训课程。这些受访者主要希望借此提高孩子逻辑水平,挖掘“…

    2020年3月29日 科技
    1.4K0

发表回复

登录后才能评论