Instale o MySQL primeiro, usando binário ou Homebrew .
Então:
gem install mysql2
Ou:
gem install ruby-mysql
Basta escolher um e você está pronto para ir.
Editar
Caso você tenha atualizado para o MySQL versão 5.6.12 no OS X, o mysql2 falhará ao compilar. A solução é fazer o downgrade do MySQL conforme descrito aqui:https://stackoverflow.com/a/17252887/45254
Editar2
Caso você não queira ter o mysql instalado (talvez você use o docker para gerenciar seus serviços), mas queira usar a gem mysql2, você pode instalar
mysql-connector-c (usando homebrew). 
