Я также попытался установить MongoDB на Ubuntu 12.04 и получил ту же ошибку на виртуальной машине (XEN). Для меня модификация /etc/default/locale сделала трюк. Я работал с этими настройками:
LANG=en_US.UTF-8
LANGUAGE=en_US
LC_ALL=en_US.UTF-8
Или другая рабочая конфигурация была бы (помните кавычки и: ru):
LANG="en_US.UTF-8"
LANGUAGE="en_US:en"
LC_ALL="en_US.UTF-8"
Обходной путь Адама С с [ f4] также помогли и, вероятно, более сложный ответ.