Sim, há algo no SQL Server que manterá a conexão aberta:pool de conexões. Como abrir e fechar conexões de banco de dados é uma operação cara, o SQL Server gerencia um pool de conexões que ele atribuirá a solicitações de conexão. Grosso modo, se a cadeia de conexão da solicitação corresponder à cadeia de conexão de uma conexão inativa no pool, o SQL Server atribuirá a conexão à solicitação.