Это работало для меня для гостевой виртуальной машины Ubuntu Server 14.04 (без GUI):
Редактировать: также работает с Ubuntu Server 15.04 и 16.04
1) Установите dkms. Из гостевого запуска:
sudo apt-get install dkms
2) В меню окна виртуальной машины VM выберите: Устройства -> Вставить гостевые дополнения CD-образ ...
3) Используйте blkid для идентификации устройство CD-ROM. Из гостевого запуска:
sudo blkid
Одна из строк на выходе должна выглядеть так:
/dev/sr0: LABEL="VBOXADDITIONS_4.3.16_95972" TYPE="iso9660"
Первая часть (/dev/sr0) - это имя CD-ROM.
4) Установите компакт-диск (замените /dev/sr0 на имя устройства, указанное выше):
sudo mount /dev/sr0 /media/cdrom/
5) Запустите установщик гостевых дополнений:
sudo /media/cdrom/VBoxLinuxAdditions.run
6) Перезагрузите гостя.