Вы можете использовать scp или rsync. В вашей локальной системе:
scp remoteuser@remotehost:/remote/dir/file /local/dir/
Но, поскольку вы упомянули о резервном копировании, я предполагаю, что он будет инкрементным, и вам нужно будет делать это время от времени. Таким образом, rsync - лучший выбор для инкрементного резервного копирования. В вашей локальной оболочке:
rsync -avz -e ssh remoteuser@remotehost:/remote/dir /local/dir/
см. Справочные страницы rsync(1) и scp(1) для параметров.