20 mil usuários carregando uma página exatamente ao mesmo tempo ? Isso é bastante - e seu servidor web provavelmente não aceitará tantas solicitações simultâneas (Por exemplo, o Apache geralmente aceita apenas entre 200 e 400 solicitações paralelas) .

O limite de conexão é o número máximo de usuários que podem ser conectados ao seu banco de dados exatamente ao mesmo tempo -- se cada página precisar de 100 ms para ser gerada, um usuário só ficará conectado por menos de 100 ms.
E se você se conectar ao seu banco de dados apenas quando precisar fazer sua primeira consulta SQL, e desconectar imediatamente depois sua última consulta SQL, isso pode reduzir o tempo durante o qual seu servidor Web está conectado ao banco de dados.

Se você tiver usuários lendo o conteúdo do seu site, considere que eles irão:

• Carregar uma página (talvez 100 ms em seu servidor)
• Não faça nada além de ler por alguns minutos (o que não consome absolutamente nenhum recurso em seu servidor)

Como uma nota lateral:muito tempo antes de obter 20.000 conexões simultâneas (o que significa cerca de 20.000 conexões por segundo ou mais!) , você provavelmente terá que lidar com vários problemas relacionados ao dimensionamento...