Você pode usar a gem mysql2 diretamente. Leia a documentação aqui:https://github.com/brianmario/mysql2
Ou:
Você pode criar uma nova classe como MysqlConnection assim:
class MysqlConnection < ActiveRecord::Base
self.establish_connection(:adapter => 'mysql', :database => 'some-database-name') # Set all the other required params like host, user-name, etc
end
A partir de agora, você pode fazer,
MysqlConnection.connection.select_all("SELECT * FROM table_name")
Siga o link para entender como armazenar os detalhes de configuração em database.yml:http://weare.buildingsky.net/2006/12/06/multiple-concurrent-database-connections-with-activerecord