Агент SSH - ваш друг. Храните свой закрытый ключ SSH ТОЛЬКО на своем частном и защищенном устройстве. Используйте параметр -A для ssh, чтобы вызвать перенаправление агентов и через дополнительные хосты. Пользователи сервера SSH или любой другой промежуточный сервер не смогут украсть ваш ключ без отслеживания на уровне ядра и очень продвинутой криминализации памяти SSH (у большинства людей не будет навыков и нет инструмента для этого автоматически).
me@my-secure-laptop$ ssh -A myaccount@some-server.com
Вы также можете быть заинтересованы в использовании приложения keychain для дополнительной безопасности.
$ aptitude search keychain
i keychain
key manager for OpenSSH