DELIMITER não é um comando MySQL. É um comando que seu cliente MySQL precisa suportar. Eu estava executando o PHPMyAdmin 2.8.2.4, que não o suportava. Quando atualizei para a versão mais recente, que atualmente é a 3.4.9, funcionou muito bem. Sua versão do MySQL não tem nada a ver com DELIMITER e se é suportado ou não.