Вы можете сделать это, используя пакеты postfix и dovecot. Существует множество подробных инструкций. Просто упомянем несколько:
http://johnny.chadda.se/article/mail-server-howto-postfix-and-dovecot-with-mysql-and-tlsssl-postgrey-and-dspam /
http://rimuhosting.com/support/settingupemail.jsp?mta=postfix
http://rimuhosting.com/support/settingupemail.jsp ? MTA = постфикс