Sim, sim e sim.

1. 
   Você pode hospedá-lo em sua própria máquina, mas não será tão fácil e eficiente quanto usar um serviço de hospedagem, a menos que você tenha uma conexão de internet simétrica de alta qualidade com baixa latência e alta largura de banda.
   
2. 
   Você pode hospedá-lo de forma barata em um VPS usando Digital Ocean, Vultr ou AWS, caso em que você mesmo terá que configurar o Node e o Mongo.
   
3. 
   Ou você pode usar plataformas gerenciadas como Heroku for Node e Compose for Mongo, caso em que o preço será mais alto, mas tudo será resolvido para você.
   

Depende de quais custos você está disposto a assumir, tanto em termos de taxas de serviço quanto em seu tempo e experiência necessários para configurar e manter as diferentes camadas do sistema.

Quanto a "E qual será o custo?" - para o número 1, será o valor que seu ISP estiver cobrando. Para o número 2, será cerca de US $ 5 para Digital Ocean ou Vultr por mês, com alguns meses de graça com links promocionais (Oceano Digital , Vultr ) e com o número 3 é algo como $ 25 para Heroku e cerca de $ 30 para Compose por mês. Claro que existem outros serviços disponíveis, esses são apenas exemplos dos mais populares.

Veja estas respostas para mais informações:

• Implantar node.js em produção
• como executar o node js no servidor dedicado?
• API NodeJS com dependências externas em outro idioma