У меня была одна и та же проблема, и я получил ее; он работал раньше. У меня есть Cuda 8.0 и Tensorflow 1.3 на Ubuntu 16.04.
Вот как я решил проблему. Сначала
sudo apt-get update
sudo apt-get upgrade
Тогда
sudo ldconfig /usr/local/cuda/lib64
Теперь это работает. Порядок исполнения имеет значение.