Use esta consulta:
SELECT User FROM mysql.user;
Que irá produzir uma tabela como esta:
+-------+
| User |
+-------+
| root |
+-------+
| user2 |
+-------+
Como Matthew Scharley aponta nos comentários desta resposta , você pode agrupar pelo
User coluna se desejar ver apenas nomes de usuário exclusivos. 
