Попробуйте следующее:
sudo apt-get install mysql-client libmysqlclient-dev
выше было необходимо для меня, тогда:
gem install bundler
bundle