Você precisa publicar a porta apropriada no contêiner com o
-p argumento, ou seja:docker run -p 27017:27017 -v "$(pwd)":/data --name mongo -d mongo mongod --smallfiles
O fará a porta 27017 acessível no host (a VM no seu caso) e encaminhará o tráfego para a porta 27017 no contêiner.
