Вы можете запустить программу в рабочем режиме (это режим, когда Wine рисует рабочий стол в окне и загружает приложение в это приложение). Это позволяет вам установить фиксированное разрешение, так что если приложение Windows будет полноэкранным, вы можете ограничить его размер.
wine explorer /desktop=MyApp,800x600 "C:\Program Files\Your App\app.exe"
Я предположил, что вы имели в виду 800 * 600 вместо 600 * 800, но это легко достаточно для вас, чтобы поменяться местами.