Вам нужно использовать что-то, называемое «балансировщик нагрузки». В основном у вас будет ТРЕТИЙ IP-адрес, который будет IP-адресом, который вы публично установили в DNS. Этот IP-адрес будет привязан к специальному модулю Apache, который затем отправит посетителя либо на первый, либо на второй сервер.
Но вы OT, я считаю:)
Some случайные ссылки:
https://blogs.oracle.com/oswald/entry/easy_http_load_balancing_with
https://blogs.oracle.com/oswald/entry/easy_http_load_balancing_with