Na verdade, o InnoDB permite apenas 768 BYTES no índice. Além disso, observe que as strings codificadas em UTF-8 ocupam 3 bytes por caractere, portanto, você tem apenas 768/3 caracteres para jogar no índice nesse caso.
Uma solução possível é limitar o comprimento do uso do campo no índice. No entanto, como você também deseja um índice exclusivo, essa pode não ser uma solução aceitável para você. Use o seguinte para limitar o comprimento dos campos usados.
CREATE UNIQUE INDEX `index_matches_on_foo_and_bar_id_and_baz_id` ON `matches` (`foo`(100), `bar_id`(100), `baz_id`(100))
