Если вы хотите обновить только PHP с 5.3 до 5.5 и не хотите обновлять систему, вам также нужно установить apache 2.4.
sudo apt-add-repository ppa:ondrej/apache2 -y
sudo add-apt-repository ppa:ondrej/php -y
sudo aptitude update
sudo apt-get install apache2 libapache2-mod-php5
Остерегайтесь некоторых изменений в apache 2.4, связанных для требования предоставить все.
https://httpd.apache.org/docs/current/upgrading.html