Добавьте файл с расширением .conf в /etc/ld.so.conf.d/, который содержит пути к библиотекам, а затем запустите ldconfig. Обязательно установите разрешения и права собственности на файл, чтобы они соответствовали другим файлам в каталоге.
Это системное решение в отличие от пользовательского решения по модификации .bashrc.
В моей системе я сделал nvidia.conf в /etc/ld.so.conf.d/. Файл содержит строки:
/usr/local/cuda-5.0/lib64
/usr/local/cuda-5.0/lib
Если вы создаете файл как sudo, то ваши разрешения должны быть хорошими, но мой nvidia.conf является владельцем / группой root и rw-r-- r-- (или 644).