Eu estava recebendo o mesmo erro ao usar rails 3.0.7 e mysql2 0.3.2. A solução, que encontrei aqui ,é usar uma versão mais antiga do mysql2. Assim, edite seu gemfile para
gem 'mysql2', '< 0.3'
e corra
bundle install
gem 'mysql2', '< 0.3'
bundle install