A razão pela qual você precisa adicionar o nome da instância no nome do servidor é que isso permitirá que o SQL Server Browser Service o ajude a encontrar a porta TCP/IP correspondente com base no nome da instância. Para a instância padrão (MSSQLSERVER), basta usar apenas o endereço IP ou o nome do host.

Se você quiser usar apenas o endereço IP, você ainda precisará adicionar a porta TCP/IP, como 192.168.0.1, 1434. Se a porta TCP/IP não for permitida, o cliente tentará usar a porta TCP/IP 1433. . Nesse caso, se a instância não estiver escutando na porta 1433, a conexão falhará.

Espero que isto ajude.