Depois de fazer algumas pesquisas:

Configurando a opção de arquivos pequenos para controle o registro no diário não controla o tamanho

No entanto, o comando é --smallfiles