Você ainda não nos mostra o quadro geral, mas o "erro de sintaxe" parece indicar que você executa isso de dentro de uma ferramenta cliente SQL (psql, pgAdmin, ...)
pg_dump
e psql
são linha de comando programas, não instruções SQL. Você precisa executá-los no prompt de comando (também conhecido como shell)
Além disso, o (antigo banco de dados) parâmetro está completamente errado. O banco de dados não é colocado entre colchetes para pg_dump, por exemplo:
pg_dump -U user1 dbname_old_db | psql -U user2 dbname_new_db
Novamente:você precisa executar isso no prompt de comando, não em uma ferramenta SQL