Это связано с тем, что fglrx (собственный драйвер устройства AMD Radeon) не поддерживает настройку режима Kernel (KMS).
В конфигурационном файле GRUB (загрузчик), расположенном в /etc/default/grub, есть параметр GRUB_GFXMODE, вы можете установить его на GRUB_GFXMODE=1200x900. Затем вам нужно запустить sudo update-grub2.
Запустить vbeinfo в GRUB, чтобы посмотреть, какие графические режимы поддерживает ваша видеокарта.