Você pode ter que usar a sintaxe arcaica com nH, por exemplo:
np:\\.\pipe\LOCALDB#ABB78D50\tsql\query
(Para obter algumas informações sobre por que essa sintaxe às vezes é necessária para strings de conexão, consulte esta dica em mssqltips.com para SQL Server 2012 e esta dica para versões mais modernas.)
Eu percebo que esta não é uma resposta ideal, mas até que o nHibernate seja atualizado para oferecer suporte oficial ao SqlLocalDb, pode ser sua única escolha... espero que eu esteja errado e alguém tenha descoberto uma maneira mais elegante de se conectar.
