Как указать домен на Ubuntu VPS?

Это потому, что вы пытаетесь ввести команды SQL из командной строки Ubuntu. Вам нужно ввести их из командной строки MySQL:

$ mysql -h localhost -u user -p password

mysql> show databases;