Em sistemas Debian (ou Ubuntu), basta instalar o pacote libmysqlclient-dev usando:
sudo apt-get install libmysqlclient-dev
e então:
gem install mysql
Ele será instalado sem nenhum erro.
sudo apt-get install libmysqlclient-dev
gem install mysql
