IP-адрес существует без подключения к Интернету.

Вы используете учетную запись root на каждой машине? Как правило, на Ubuntu вы должны использовать учетную запись пользователя и предоставлять ему sudo-привилегии по мере необходимости.

Если вы используете пользователя без root sudo chown $USER -R ~/.ssh, можете исправить вашу проблему

Другие вещи для проверки:

дважды проверьте, что B id_rsa.pub находится в A authorized_keys.

проверить A /etc/ssh/sshd_config содержит

PermitRootLogin yes
RSAAuthentication yes
PubkeyAuthentication yes