Вы можете нажать ctrlaltF1, чтобы перейти на консоль. Войдите в систему, и вы можете убить программу-нарушитель. Мне нравится использовать htop для этого.
Тем не менее, возможно, что сам X может быть вклинился. В этом случае вам придется перезапустить GDM:
sudo service gdm restart
Чтобы вернуться к X, нажмите ctrl alt alt .