Encontre o ID duplicado mais recente com o MySQL

Bem, você meio que responde sua pergunta. Você parece querer max(id) :

SELECT email, COUNT(email) AS occurences, max(id)
FROM wineries
GROUP BY email
HAVING (COUNT(email) > 1);

Você pode excluir os outros usando a instrução. Excluir com join tem uma sintaxe complicada onde você tem que listar o nome da tabela primeiro e depois especificar o from cláusula com a junção:

delete wineries
            from wineries join
            (select email, max(id) as maxid
             from wineries
             group by email
             having count(*) > 1
            ) we
            on we.email = wineries.email and
               wineries.id < we.maxid;

Ou escrevendo isso como um exists cláusula:

delete from wineries
    where exists (select 1
                  from (select email, max(id) as maxid
                        from wineries
                        group by email
                       ) we
                  where we.email = wineries.email and wineries.id < we.maxid
                 )