Instalei recentemente o RMySQL no WinXP de 32 bits e também tive alguns problemas. Documentei os problemas que tive e as soluções que encontrei no seguinte link
Também acompanhei o mantenedor do pacote alguns dias atrás. Ainda não recebi resposta. Espero que possamos documentar melhor o processo. Parece que seu problema pode ser resolvido emitindo a instrução r:
Sys.setenv(“MYSQL_HOME”=”C:/PROGRA~1/MySQL/MYSQLS~1.5″)
antes de instalar o RMySQL.