mysql não pode produzir diretamente no formato json

então você tem duas opções:

1. 
   exportar em XML o uso de uma ferramenta para converter de XML para JSON (uma ferramenta que pode lidar com grandes tabelas, claro)
   
2. 
   escreva um pequeno script (por exemplo em PHP) que busque os dados do banco de dados e os grave em um arquivo em JSON
   

Observação importante:

Se você escolher a opção nº. (2) você pode ter problemas para carregar todos os dados da tabela, converter para JSON e salvar em arquivo em uma única etapa "atômica" se você tiver muitos registros .

No entanto, você pode dividir a tarefa em etapas.

Basicamente uma tabela transformada em JSON é um array de objetos, cada objeto representando um único registro.

1. 
   Abra uma conexão com o banco de dados
   
2. 
   Comece a escrever o arquivo de saída e abra o array escrevendo um colchete aberto [
   
3. 
   Execute sua consulta buscando n ( 1 SORT a tabela por qualquer campo -ex. id - e use o LIMIT cláusula)
   
4. 
   Converta cada registro com json_econde , escreva a string no arquivo, escreva uma vírgula , a menos que você tenha escrito o último registro.
   
5. 
   Voltar para 3 até chegar ao último registro.
   
6. 
   Escreva um colchete de fechamento no arquivo ] (fechando a matriz).
   
7. 
   Feche o arquivo e a conexão db
   

Isso exigiria um pouco mais de codificação, mas não é ciência de foguetes.

...e talvez você encontre algo online que já faça isso.

Atualização:

Um script que busca os dados do banco de dados e os grava em um arquivo JSON pode ser encontrado aqui no GitHub:Dump-table-to-JSON (última atualização em 2016).