Вы имеете в виду, что вы удалили секретный ключ на сервере? Если это так, то используется только при sshing FROM с этого сервера. Это не повлияет на sshing TO на этом сервере.