De algumas pesquisas e deste reddit thread , determinei que você precisa definir a localidade padrão.
Então o comando que funcionou para mim foi:
mysqldump --default-character-set=latin1 --lock-tables=false --single-transaction=TRUE --host=$HOST --user=$USER --password=$PASSWORD $DB
Eu usei tabelas de bloqueio e transação única porque tenho uma mistura de tabelas myisam e innodb.