Abra seu SQL Server Configuration Manager, em SQL Server Network Configuration você encontrará Protocols for e todas as instâncias instaladas estarão lá. MSSQLSERVER é a instância padrão. Encontre o nome da sua instância lá.

Outra opção é executar o regedit Vá para HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Microsoft SQL Server Você vai encontrar chaves como.

MSSQL10_50.MSSQLSERVER e MSSQL11.SQLEXPRESS

Mas o seu será diferente.

Isso mostrará a versão e a instância do SQL Server. O meu mostra MSSQL10.5, que é 2008 R2 como MSSQLSERVER, que é a instância padrão, e MSSQL11 como SQLEXPRESS, que é minha instância nomeada para 2012