如何自动更新学习率,选择什么样的学习策略?

每个epoch,学习率由小变大增加一个固定值,该怎么选择学习策略?
已邀请:

HUSThu

赞同来自:

意思就是台阶那样增加?两种办法
1 修改sgd_solver.cpp 里面的 函数 GetLearningRate()
自己加一个策略进去, 相应的caffe.proto 里面也要加定义
2 策略用 fixed,写个脚本 一个epoll 停一次,改solver 里面的base_lr ,然后从snapshot 开始train

要回复问题请先登录注册