No MySQL, por padrão, as tabelas temporárias criadas com o mecanismo de memória podem crescer rapidamente além do limite de 16 MB de max-heap-table-size e tmp-table-size porque mais memória é alocada por linha do que normalmente é necessário. Por exemplo, se cada linha requer 16kb, são necessárias apenas 1k linhas para atingir o limite. Para muitos aplicativos, esse problema pode ser resolvido usando ROW_FORMAT=DYNAMIC como explicado aqui:

http://www.percona.com/doc/percona -server/5.5/flexibility/improved_memory_engine.html