A ordem em que os resultados são retornados quando não há cláusula ORDER BY depende do RDBM. No caso do MySQL, ou pelo menos da maioria dos mecanismos, se você não especificar explicitamente a ordem, ela será crescente, das entradas mais antigas para as novas. Onde a linha está localizada "fisicamente" não importa. Não tenho certeza se todos os mecanismos mysql funcionam dessa maneira. Ou seja, no PostgreSQL, a ordem "padrão" mostra primeiro as linhas atualizadas mais recentemente. Esta pode ser a maneira como alguns dos mecanismos do MySQL também funcionam.
De qualquer forma, o ponto é - se você deseja que os resultados sejam ordenados - sempre especifique a ordem de classificação, não dependa apenas de algo padrão que pareça funcionar. No caso de você querer algo trivial - você quer os usuários em ordem decrescente, então basta usar:
SELECT * FROM users ORDER BY id DESC
