Как определить программно в приложении QML, где находится мой файл базы данных sqlite

Я не думаю, что есть возможность сделать это. Смотрите:

Вы можете открыть файл, как если бы вы дважды щелкнули его в nautilus, используя xdg -open command:

xdg-open file

Если вы действительно хотели иметь эту конкретную функцию, для этого потребуется взломать код Nautilus.