No meu caso, o problema foi com a instalação do shell isolado do VS2015 quebrado.

Resolvi isso baixando e reinstalando este shell da página do Visual Studio Isolated Shell https://docs.microsoft.com/en-ca/visualstudio/extensibility/visual-studio-isolated-shell (o que deve levar você a http://go.microsoft.com/fwlink/? LinkId=615451 - após o preenchimento da pesquisa).

Observação:

1. Eu tive os seguintes avisos após a instalação do shell VS1205. Mas isso não importava, pois a versão existente desses componentes era superior.
2. Não tinha IDEs do VS instalados no meu computador antes de instalar o SSMS 16.5.3 (ou 17.1). Ambos tiveram o mesmo problema. Por enquanto estou usando apenas o SSMS 16.5.3, pois não preciso do 17.1