O tempo limite ocioso é apenas o tempo que as conexões não utilizadas no pool permanecerão no pool antes de serem fechadas/recicladas. Esse problema que você está tendo é mais provável que você não esteja fechando suas conexões após o uso.
Corrija seu código para fechar conexões quando terminar com elas, fechar uma conexão a liberará de volta para o pool de conexões para que estejam disponíveis para reutilização.
Alguns pools de conexão têm tempos limite adicionais para o tempo em que uma conexão pode ser usada, forçando a conexão de volta ao pool após esse tempo. Que para o usuário dessa conexão parecerá que a conexão foi fechada. Eu não acho que a piscina de peixes de vidro tem essa opção.