Eu tive esse problema. Você precisa instalar a gem mysql com extensões nativas.
A linha que você provavelmente está procurando é esta:
$ ARCHFLAGS="-arch x86_64" gem install mysql2 --version '~> 0.2.7' -- --with-mysql-config=/usr/local/mysql/bin/mysql_config
Artigo completo sobre como fazer isso aqui:http:/ /softwaregravy.com/mysql-on-os-x-rails-3-0-7/