MongoDB não é um acelerador de consulta mágica. Seu site não suportará 10x de carga só porque você mudou para o mongo.

A julgar pelos seus números, suspeito que houve saturação de recursos. O MySQL certamente pode fazer muito mais do que 500 QPS.

Você sabe qual foi o seu gargalo? Aposto que você tem muito menos RAM do que o necessário, os dados precisam ser buscados no disco e o disco fica saturado. Neste ponto, nenhuma tecnologia de banco de dados o ajudará, a menos que você obtenha mais ferro (ou exclua alguns dados).

Quanto ao desempenho mais fraco do mongo, é difícil dizer sem os detalhes.