A saída é \\\" (seu segundo exemplo).

Eu não acho que você possa dizer com segurança se uma string já foi escapada ou não, você deve organizar seu código de uma maneira que você só possa chamar mysqli_real_escape_string() uma vez.