Как я полностью вытираю Cuda и CudNN от моей человечности 16.04?

Попробуйте эти команды, если Вы уже не имеете

sudo apt-get --purge -y remove 'cuda*'
sudo apt-get --purge -y remove 'nvidia*

после этого я выполнил команду ниже, и она добилась цели для меня

sudo apt-get autoremove --purge cuda

Официальное руководство по установке NVIDIA CUDA предлагает аналогичный, но более полный метод:

Чтобы удалить CUDA Toolkit:

$ sudo apt-get --purge remove "*cublas*" "*cufft*" "*curand*" \
 "*cusolver*" "*cusparse*" "*npp*" "*nvjpeg*" "cuda*" "nsight*" 

Чтобы удалить драйверы NVIDIA:

$ sudo apt-get --purge remove "*nvidia*"

Чтобы очистить удаление:

$ sudo apt-get autoremove

(Подробнее см. здесь: https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html)