Существуют ли какие-либо программы / приложения / команды, которые будут отслеживать и сообщать об использовании памяти графического процессора во время выполнения программ?

Если вы действительно заинтересованы в мониторинге графического процессора Nvidia, вы можете использовать инструмент nvidia-smi (установлен с пакетом nvidia-current). См. Эти ссылки:

• http://developer.nvidia.com/cuda/nvidia-system-management-interface
• http: / /www.matrix44.net/blog/?p=876

Последний, в частности, предоставляет хороший скрипт для вывода информации.

Для общего использования памяти и процессора я бы выбрал htop (или top). Или вы можете использовать gnome-system-monitor для графического инструмента.