Попробуйте xdg-su -c "nautilus /" &
Я использую xdg-su всякий раз, когда сталкиваюсь с проблемами при открытии gui-приложений с помощью sudo
Из xdg-su --help:
xdg-su ? run a GUI program as root after prompting for the root password
Synopsis
xdg-su [-u user] -c command
Не уверен, что xdg-su выходит из коробки с помощью ubuntu. Если нет, попробуйте, что предложил Сильвен Пине, gksudo