Não deve haver nenhum mal em conectar seu aplicativo Rails a um banco de dados existente. Você precisará observar qualquer coisa que vá contra as convenções do Rails (nomes das tabelas são plurais de modelos, por exemplo) e alterar o banco de dados (e seu aplicativo php) ou programar em torno do problema no Rails.

Mas o primeiro passo é simplesmente conectar-se ao banco de dados e fazer modelos para as tabelas existentes e ver o que funciona e o que não funciona.

Depois disso, poste aqui com quaisquer problemas específicos.

Como sugestão, faça um backup do seu banco de dados e comece a programar nele para construir seu aplicativo e ter certeza de que tudo funciona com segurança.