É totalmente imprudente deixar a conexão mysql aberta através de uma página?
Sim, a sobrecarga de conectar todas as vezes será considerável. Eu sugiro que você a feche quando terminar, é muito improvável que simplesmente ter uma conexão aberta sem executar consultas nela abra você a vulnerabilidades.