Conectando-se ao SQL Server, Oracle, DB2 e MySQL simultaneamente usando ADO.NET?
Você só precisa de 4 strings de conexão e 4 objetos de conexão ADO separados. E então o que SLaks disse sobre consultas assíncronas para fazê-las simultaneamente, se você realmente deseja que elas sejam executadas em paralelo.