Você pode se conectar diretamente ao MySQL, mas não é uma boa prática, especialmente para aplicativos de produção. Meu conselho é usar um serviço Web que facilite a conexão.

Os serviços da Web são serviços disponibilizados a partir do servidor Web de uma empresa para usuários da Web ou outros programas conectados à Web, neste caso, seu aplicativo Android.

Aqui está um ótimo tutorial para você começar Android, MySQL e PHP