Пакет virtualbox-guest-additions должен быть установлен. Кроме того, может показаться, что ничего не произошло, но все кнопки «Install Guest Additions» - это установка cdrom. Вам следует открыть диспетчер файлов (Nautilus / Dolphin), выбрать «CD-устройство» и запустить установщик.