Как открыть файл из Unity с нестандартным приложением

Проверьте конфигурационную утилиту настройки nvidia (настройка IIRC nvidia) и найдите опцию overscan. Это звучит очень похоже на сверхсканирование.