Если вы используете файл azure .ppk
Просто преобразуйте его в pem и добавьте разрешение 400 с помощью простых шагов:
sudo apt-get install putty
puttygen <path_to_key>/keyname.ppk -O private-openssh -o <path>/aws_key.pem
sudo chmod 400 <path>/aws_key.pem
ssh -vi aws_key.pem ubuntu@<ip_address>