Eu acho que não existe essa funcionalidade embutida fornecida pelo MySQL. Uma solução é que você pode criar trigger.
CREATE TRIGGER your_trigger_name
BEFORE INSERT ON your_table_name
FOR EACH ROW
BEGIN
DECLARE cnt INT;
SELECT count(*) INTO cnt FROM your_table_name;
IF cnt = 10 THEN
SIGNAL SQLSTATE '45000' SET MESSAGE_TEXT = 'You can store only 10 records.';
END IF;
END;
Experimente o gatilho acima em sua mesa. Substitua seu table_name por your_table_name .
Espero que isso irá ajudá-lo.