Minha experiência em agosto de 2013 foi a seguinte para uma instância do RDS criada por meio do Elastic Beanstalk.
0) Supondo que a instância do RDS já tenha sido criada
1) Faça login no console de gerenciamento:https://console.aws.amazon.com/console/home
2) Selecione Services->VPC
3) Selecione Security Groups (no lado esquerdo)
4) Selecione o grupo cuja descrição diz "Security Group for RDS DB..."
5) No painel Security Group Selected em na parte inferior da página, escolha "Inbound"
6) Selecione MySQL como a regra.
7) Digite o endereço IP da minha máquina local, por exemplo. 145.23.32.15/32
8) Clique em Adicionar Regra e Aplicar Alterações de Regra
Depois de fazer isso, eu poderia me conectar ao banco de dados usando o mysql da minha máquina local.
a) No console de gerenciamento, selecione Services->RDS
b) Clique em DB Instances (eu tenho apenas uma) e selecione "Go to Details Page" para a instância necessária
c) Obtenha Host e Port do endpoint
d) De uma sessão de terminal, faça algo como:mysql --host blah.blah.blah.us-west-2.rds.amazonaws.com --port 3306 -u my-user-name -p