Tente começar com o assistente Percona e comparar suas recomendações com suas configurações atuais uma a uma. Não se preocupe, não há tantas configurações aplicáveis ​​quanto você imagina.

https://tools.percona.com/wizard

Atualização por volta de 2020 :Desculpe, esta ferramenta chegou ao fim da vida útil:https://www.percona.com/blog/2019/04/22/end-of-life-query-analyzer-and-mysql-configuration-generator/

Todos apontam para key_buffer_size primeiro que você abordou. Com 96 GB de memória, eu desconfiaria de qualquer pequeno valor padrão (provavelmente de apenas 96M!).