Загружается в GRUB, а затем не запускается Ubuntu 17.10, кроме как в режиме восстановления

Возможно, это потому, что вы на виртуальной машине. Используются ли другие эффекты Compiz?

Некоторые горячие клавиши связаны с Compiz, но не все. Тот, который работал для вас, возможно, был стандартным Gnome.