Quando você cria uma conexão, você tem apenas uma conexão e ela dura até você fechá-la (ou ser fechada pelo servidor mysql). Você pode passá-lo por referência e reutilizá-lo, ou pode criar e fechar conexões sob demanda.

Um pool é um local onde as conexões são armazenadas. Ao solicitar uma conexão de um pool, você receberá uma conexão que não está sendo usada no momento ou uma nova conexão. Se você já estiver no limite de conexão, ele aguardará até que uma conexão esteja disponível antes de continuar. Essas conexões em pool não precisam ser fechadas manualmente, elas podem permanecer abertas e ser facilmente reutilizadas.

O que você usa depende inteiramente de você, pois ambos atingem o mesmo objetivo, apenas de duas maneiras diferentes.