求解一些caffe的名词解释

什么是梯度
什么是权值
什么是loss
什么是偏置项
什么是对损失函数的投票因子
什么是可训练权值的学习速率倍乘因子
什么是负梯度
 
已邀请:

米想好昵称

赞同来自: caffe alex68 uestc_yang

1.梯度相当于函数的导数,负梯度就是导数的负值,沿着这个方向函数会下降。
2.权值是学习参数,就是信号叠加时的比例。偏置项是信号叠加之后还要在叠加的固定的值。
3.loss函数是损失函数,衡量分类器分类结果和真实结果的偏差。
4.学习速率对于梯度而言:沿着梯度的方向下降,如果一次改变的太多,那么有可能会发生震荡,如果一次改变的太少,又会很浪费时间。所以学习速率既不能太大也不能太小。
 
这些都是比较基本的名词,可以去看看随便一本ML的书应该就能完全懂了。

要回复问题请先登录注册