Eu tive esse problema ao instalar a gem mysql antes, e uma solução rápida é apenas copiar o libmysql.dll para sua pasta ruby bin. Recentemente, recebi trilhos em um servidor WAMP MySQL sem nenhum problema, então, se isso não resolver, poste uma mensagem de erro mais específica depois de resolver o problema de dependência e examinarei minha configuração.
EDIT:Só para ser específico, estou executando o XAMPP.