我在py-faster-Rcnn中得到了这句话
F0205 17:04:17.806836 4300 pooling_layer.cu:212]检查失败:错误== cudaSuccess(8对0)无效的设备功能检查故障堆栈跟踪:GPU:……
安装CUDA 8.0,这应该可以解决问题。
从 这个 您可以发现GeForce GTX 1080 Ti GPU属于Pascal GPU Micro架构,具有6.1版或更高版本支持的计算能力版本6.1。
CUDA SDK 8.0支持计算能力2.0 - 6.x(Fermi,Kepler,Maxwell,Pascal),最后一个版本,支持Compute Capability 2.x(Fermi) CUDA SDK 7.5支持计算能力2.0 - 5.x(Fermi,Kepler, 麦克斯韦)
CUDA SDK 8.0支持计算能力2.0 - 6.x(Fermi,Kepler,Maxwell,Pascal),最后一个版本,支持Compute Capability 2.x(Fermi)
CUDA SDK 7.5支持计算能力2.0 - 5.x(Fermi,Kepler, 麦克斯韦)