Вам не нужно делать ничего особенного, если вам нужен только последний PostgreSQL, упакованный в Ubuntu: apt-get install postgresql делает трюк.
Если вам нужны функции самой последней версии (вместо 9.2 из 9.1), однако вам нужно добавить репозиторий apt.postgresql.org.