Самый простой способ установки LAMP на Ubuntu - использовать задачу APT:
sudo apt-get install lamp-server^
Каретка (^) не является опечаткой.
Он выберет все соответствующие пакеты для вас. Для вашего конкретного случая Деннис прав, вам просто не хватает привязок PHP5-MySQL, которые вы устанавливали с неправильным именем пакета. В любом случае, задача будет гарантировать, что у вас будут самые распространенные пакеты, включая этот.