Essa pergunta apareceu várias vezes. Você PROVAVELMENTE pode conectar seu dispositivo Android ao servidor SQL diretamente se você implantou os drivers MSSQL JDBC em seu dispositivo Android e, em seguida, expôs seu servidor SQL diretamente à Internet. Se os drivers MSSQL funcionariam corretamente no Android é um problema completamente diferente.

É assim que você pode ser capaz de fazê-lo. No entanto, aqui é por isso que é uma má idéia.

1. 
   Você está expondo seu servidor SQL diretamente à Internet. A menos que você criptografe os dados entre o servidor MSSQL e o dispositivo Android, seria relativamente fácil para um hacker determinado farejar o fluxo de dados TDS entre o dispositivo e o MSSQL e fazer engenharia reversa e roubar seus dados. A criptografia provavelmente tornará muito mais difícil quase impossível para um invasor roubar seus dados. No entanto, um invasor ainda pode lançar um ataque DOS/DDOS diretamente em seu banco de dados. Não é uma boa ideia!
   
2. 
   Se você estiver planejando conectar outros dispositivos móveis (iPhone, Symbian, BlackBerry e assim por diante), também precisará criar uma conexão SQL a partir desses dispositivos. O iPhone não suporta Java nativamente (da minha memória), por exemplo, então você precisa encontrar uma maneira de conectar o iPhone ao servidor SQL. O BlackBerry pode ser mais fácil, mas o Symbian com o qual você não terá sorte. Assim, você precisará quase criar uma solução personalizada para cada dispositivo conectado ao seu banco de dados. Má ideia MUITA manutenção
   

Crie um webservice ou servidor TCP/IP personalizado que possa manipular seu banco de dados. Conecte-se a este serviço/serviço da web a partir do seu dispositivo. Webservices são o caminho a percorrer. Hoje em dia, mais de 90% dos dispositivos são nativamente capazes de fazer uma chamada de webservice.