caffe怎样实现在单gpu上开多线程,提高gpu的利用率

想要在单gpu上实现多线程并行运算,提高gpu的利用率。因为caffe默认单gpu开多个线程并不是并行的,因此需要改动源码哪几部分?有人做过吗?
已邀请:

joshua_1988 - https://joshua19881228.github.io/

赞同来自:

不知道这个有没有好的解决办法。看你的问题叙述,比如我用两个CPU线程起两个网络做前向,这个时候GPU不是并行的,是这个意思吗?

oscarriddle - Caffe 爱好者

赞同来自:

Hi,请问有找到好办法吗?我也遇到了相似的问题,GPU利用率一直起不来。 (这里)

mhaoyang - 机器视觉算法工程师 电子工程硕士

赞同来自:

如果在不同线程调用Caffe,那么GPU加速就不起作用了。正在研究这个问题。

要回复问题请先登录注册