Я столкнулся с этой же проблемой и смог ее решить. Сначала я открыл сценарий инициализации OpenVPN с помощью:
sudo nano /etc/default/openvpn
И раскомментировал строку:
AUTOSTART="none"
Это должно остановить все подключения OpenVPN при запуске и, таким образом, решить проблему без фактического удаления OpenVPN.