Вы должны использовать проприетарный драйвер nvidia или fglrx. Установите startupmanager и попытайтесь изменить разрешение загрузчика на тот, который поддерживает ваш монитор.