caffe预测支持多线程嘛?是如何实现的?

当前搭了个caffe预测的服务,打算开启多线程访问,所以想问,caffe是否支持多线程调用预测功能?
具体是如何支持和实现的?文章或代码提示都可以,非常感谢!
 
caffe的Net把参数和输入输出blobs全部耦合到一起了,所以,是不是基本不可能实现多线程的预测?
唯一方法就是多拷贝几份net,各自预测各自的,即使是参数,也无法共享吧?
 
求教。
已邀请:
匿名用户

匿名用户

赞同来自: bjsyj_cd_sina

caffe是支持多线程且线程安全的 其中使用TLS机制 请看这个:
https://github.com/BVLC/caffe/issues/4595
 

bjsyj_cd_sina

赞同来自:

学习一下, 也要用到,谢谢。
 

liuqingjie1987

赞同来自:

我看了这个问题的解决方法,不过增加的这个静态函数要怎么用吖,我是这样用的:Caffe::Set(new Caffe());,为什么运行到Caffe& Caffe::Get()时候,仍然提示:Caffe context not initialized.希望得到各位老师的帮助,谢谢

要回复问题请先登录注册