Сначала перейдите в настройки виртуальной машины и включите 3D-ускорение с дисплея. Затем загрузите машину и установите пакет virtualbox-guest-utils. После перезагрузки проблема с графикой должна быть решена.