вы можете использовать:
sudo xrandr --output VBOX1 --scale 1.5x1.5
вы можете изменить 1,5x1,5 за другой масштабный коэффициент