caffe学习率设置设置

在caffe中的学习率设置有什么trick吗?看到大神们有的设置10,20,有的设置0.01,0.02,这些都是猜的?还是依靠经验呢?谢谢各位大神
已邀请:

biometrics

赞同来自: bonerkiller

你说的10,20应当指的是lr_mult的学习率,那个是对应当前层地,而0.01,0.02应当指的是base_lr的学习率,两者相乘才得到最终的学习率。另外对当前层10,20的学习率设置一般是用在finetuning,为了加快该层地学习,其原始的学习率应该为1和2.

爱在路上 - 想成为菜鸟中的战斗机

赞同来自:

学习率怎么有10,20  ??

要回复问题请先登录注册