À primeira vista, parece-me que seu SQL Server Management Studio está se conectando por meio de uma biblioteca de rede diferente, como Named Pipes, enquanto o cliente sqlcmd está tentando se conectar via TCP e o servidor não está ouvindo lá (ou talvez em uma porta não padrão). É por isso que você está recebendo o erro TCP na última instância.