A autenticação em shell realizada em seu exemplo é contra o admin base de dados. A linha de comando postada acima não especifica um banco de dados e, portanto, está autenticando no banco de dados padrão que é test . Tente isso para autenticar via linha de comando no banco de dados do administrador:
mongo admin -u 'USERNAME' -p 'PASSWORD'
se o servidor não estiver no host local, você poderá usar isso:
mongo your_host_name:your_port/admin -u 'USERNAME' -p 'PASSWORD'