Muito perto. Isso funcionará:
db.test_users.deleteOne( {"_id": ObjectId("4d512b45cc9374271b02ec4f")});
ou seja, você não precisa de um novo para o ObjectId.
Além disso, observe que em alguns drivers/ferramentas,
remove() agora está obsoleto e deleteOne ou deleteMany deve ser usado em seu lugar.