LeNet-5模型结构请教

回复

勤奋的密东 发起了问题 • 1 人关注 • 0 个回复 • 20 次浏览 • 7 小时前 • 来自相关话题

两个关于extract_features的问题

回复

参数调节Ma_Jane 发起了问题 • 1 人关注 • 0 个回复 • 37 次浏览 • 1 天前 • 来自相关话题

caffe solver中的test_iter设置过大或者过小会带来什么样的结果?

参数调节andrewsu90116 回复了问题 • 2 人关注 • 1 个回复 • 89 次浏览 • 5 天前 • 来自相关话题

我在ubuntu 中运行./examples/mnish/create_mnish.sh时出现以下错误,各位知道是什么原因吗?

lans0625 回复了问题 • 3 人关注 • 3 个回复 • 404 次浏览 • 2017-06-17 15:08 • 来自相关话题

有没有可以【边使用边学习】的算法?

alex68 回复了问题 • 1 人关注 • 1 个回复 • 103 次浏览 • 2017-06-15 00:57 • 来自相关话题

sigmoid_cross_entropy_loss使用场合

回复

匿名用户 发起了问题 • 1 人关注 • 0 个回复 • 92 次浏览 • 2017-06-11 23:39 • 来自相关话题

vgg_face的调优工作

参数调节Andybert 回复了问题 • 8 人关注 • 5 个回复 • 1059 次浏览 • 2017-06-08 16:05 • 来自相关话题

样本的数量增多导致训练迭代到2.5万左右后立刻衰减为0

参数调节alex68 回复了问题 • 1 人关注 • 1 个回复 • 88 次浏览 • 2017-06-07 13:46 • 来自相关话题

caffe 运行rcnn示例出现问题

回复

luanfei 发起了问题 • 2 人关注 • 0 个回复 • 117 次浏览 • 2017-06-03 11:59 • 来自相关话题

训练自己的数据库

jiangwei 回复了问题 • 2 人关注 • 1 个回复 • 134 次浏览 • 2017-06-01 20:02 • 来自相关话题

py-faster-rcnn如何恢复训练,没找到solverstate

回复

参数调节深度学习思考者 发起了问题 • 1 人关注 • 0 个回复 • 157 次浏览 • 2017-06-01 15:07 • 来自相关话题

compute_image_mean

回复

roselily 发起了问题 • 1 人关注 • 0 个回复 • 111 次浏览 • 2017-05-31 18:27 • 来自相关话题

<<21天实战caffe>>第16天 MNIST数据可视化show_mnist_data.m出现以下错误

回复

roselily 发起了问题 • 1 人关注 • 0 个回复 • 112 次浏览 • 2017-05-31 13:53 • 来自相关话题

二分类问题用什么模型?

参数调节popper0912 回复了问题 • 4 人关注 • 2 个回复 • 824 次浏览 • 2017-05-31 10:05 • 来自相关话题

LRN和 batch norm层有什么区别?可以同时用这两个层吗?

alex68 回复了问题 • 4 人关注 • 1 个回复 • 156 次浏览 • 2017-05-26 22:51 • 来自相关话题

solver.prototxt参数

参数调节很遥远 发表了文章 • 1 个评论 • 113 次浏览 • 2017-05-23 19:37 • 来自相关话题

####参数设置###################

1. ####训练样本###

总共:121368个
batch_szie:256
将所有样本处理完一次(称为一代,即epoch)需要:121368/256=475 次迭代才能完成
所以这里将test_interval设置为475,即处理完一次所有的训练数据后,才去进行测试。所以这个数要大于等于475.
如果想训练100代,则最大迭代次数为47500;


2. ####测试样本###
同理,如果有1000个测试样本,batch_size为25,那么需要40次才能完整的测试一次。 所以test_iter为40;这个数要大于等于40.

3. ####学习率###
学习率变化规律我们设置为随着迭代次数的增加,慢慢变低。总共迭代47500次,我们将变化5次,所以stepsize设置为47500/5=9500,即每迭代9500次,我们就降低一次学习率。

 


####参数含义#############

net: "examples/AAA/train_val.prototxt"   #训练或者测试配置文件
test_iter: 40   #完成一次测试需要的迭代次数
test_interval: 475  #测试间隔
base_lr: 0.01  #基础学习率
lr_policy: "step"  #学习率变化规律
gamma: 0.1  #学习率变化指数
stepsize: 9500  #学习率变化频率
display: 20  #屏幕显示间隔
max_iter: 47500 #最大迭代次数
momentum: 0.9 #动量
weight_decay: 0.0005 #权重衰减
snapshot: 5000 #保存模型间隔
snapshot_prefix: "models/A1/caffenet_train" #保存模型的前缀
solver_mode: GPU #是否使用GPU



stepsize不能太小,如果太小会导致学习率再后来越来越小,达不到充分收敛的效果。 查看全部
####参数设置###################

1. ####训练样本###

总共:121368个
batch_szie:256
将所有样本处理完一次(称为一代,即epoch)需要:121368/256=475 次迭代才能完成
所以这里将test_interval设置为475,即处理完一次所有的训练数据后,才去进行测试。所以这个数要大于等于475.
如果想训练100代,则最大迭代次数为47500;


2. ####测试样本###
同理,如果有1000个测试样本,batch_size为25,那么需要40次才能完整的测试一次。 所以test_iter为40;这个数要大于等于40.

3. ####学习率###
学习率变化规律我们设置为随着迭代次数的增加,慢慢变低。总共迭代47500次,我们将变化5次,所以stepsize设置为47500/5=9500,即每迭代9500次,我们就降低一次学习率。

 


####参数含义#############

net: "examples/AAA/train_val.prototxt"   #训练或者测试配置文件
test_iter: 40   #完成一次测试需要的迭代次数
test_interval: 475  #测试间隔
base_lr: 0.01  #基础学习率
lr_policy: "step"  #学习率变化规律
gamma: 0.1  #学习率变化指数
stepsize: 9500  #学习率变化频率
display: 20  #屏幕显示间隔
max_iter: 47500 #最大迭代次数
momentum: 0.9 #动量
weight_decay: 0.0005 #权重衰减
snapshot: 5000 #保存模型间隔
snapshot_prefix: "models/A1/caffenet_train" #保存模型的前缀
solver_mode: GPU #是否使用GPU



stepsize不能太小,如果太小会导致学习率再后来越来越小,达不到充分收敛的效果。

添加precision-recall-loss层报错

参数调节ciel咖啡小白 回复了问题 • 2 人关注 • 2 个回复 • 118 次浏览 • 2017-05-21 17:00 • 来自相关话题

LSTM的序列信息中是如何加入BOS和EOS的

回复

参数调节一路基石 发起了问题 • 1 人关注 • 0 个回复 • 147 次浏览 • 2017-05-21 16:31 • 来自相关话题

Deep Learning Book目标函数泰勒二次展开的公式问题

回复

无间空道 发起了问题 • 1 人关注 • 0 个回复 • 145 次浏览 • 2017-05-21 12:12 • 来自相关话题

有没有人做过CNN网络模型的剪枝或者其他缩减模型的方法?

攻城卒子 回复了问题 • 6 人关注 • 2 个回复 • 1057 次浏览 • 2017-05-18 19:06 • 来自相关话题