Как установить openvpn на Lubuntu?

Вы хотите сделать пакет «Hold»

https://help.ubuntu.com/community/PinningHowto#Introduction_to_Holding_Packages

В основном вы хотите сделать что-то вроде: [ ! d3]

echo php5-common hold | dpkg --set-selections

И когда вы будете готовы обновить PHP:

echo php5-common install | dpkg --set-selections

Если вы хотите продолжать использовать обновления dotdeb, входящие в него, и оставаться в стороне от пакетов Ubuntu, вы хотите полный Apt Pinning, но это довольно сложно (см. ссылку PinningHowto выше).