Não está muito claro o que você está tentando fazer, pois acessar dados de outro servidor sem usar uma API não faz sentido. Qualquer coisa que você faça para acessá-lo é algum tipo de API.

Se você quiser fazer com que apenas o servidor A possa acessar o servidor B, você tem várias opções para tornar isso seguro:

1. 
   Exija autenticação sempre que o servidor B for acessado e faça com que apenas o servidor A tenha essas credenciais de autenticação.
   
2. 
   Supondo que o servidor A e o servidor B estejam na mesma infraestrutura de servidor, coloque a API do servidor B em uma porta que não está disponível para o mundo externo, mas está disponível apenas de dentro da infraestrutura do servidor (isso geralmente envolve a escolha de uma porta para a qual seu firewall o lado de fora está bloqueando o acesso).
   
3. 
   No servidor A, aceite apenas conexões em sua API do endereço IP específico do servidor B.
   

Você pode até implementar mais de uma dessas opções de uma só vez. Por exemplo, não é incomum usar 1) e 2) juntos.