O driver jtds não tem a mesma sintaxe que o driver ms. Você deve enviar o nome da instância como uma propriedade, ou seja, assim:
"jdbc:jtds:sqlserver://localhost/master;instance=TESTDATA;..."
Observe também que o nome do banco de dados é enviado como
/master em vez de uma propriedade. Boa sorte! 
