Se você quiser as últimas 5 linhas, ordenadas em ordem crescente, você precisa de uma subconsulta:
SELECT *
FROM
( SELECT id, name, form_id, DATE(updated_at) AS updated_date, updated_at
FROM wp_frm_items
WHERE user_id = 11
AND form_id=9
ORDER BY updated_at DESC
LIMIT 5
) AS tmp
ORDER BY updated_at
Depois de ler a pergunta pela décima vez, isso pode ser (apenas talvez) o que você deseja. Ordenar por data decrescente e depois ordenar por hora (na mesma data) crescente:
SELECT id, name, form_id, DATE(updated_at) AS updated_date
FROM wp_frm_items
WHERE user_id = 11
AND form_id=9
ORDER BY DATE(updated_at) DESC
, updated_at ASC