Você não precisa instalar o SQL Server Express para usar o LocalDB, pois o LocalDB é o SQL Server Express, apenas mais fácil de instalar.

Uma vez instalado o LocalDB, você pode usar a propriedade AttachDbFileName da string de conexão para "abrir" um arquivo MDF. Lembre-se de que o mesmo arquivo só pode ser aberto por uma única instância do LocalDB (único login do Windows) a qualquer momento, portanto, esse não é um recurso de compartilhamento de dados.

Atualização:Se seu aplicativo estiver usando .NET, certifique-se de instalar o .NET 4.0.2 ou mais recente, conforme mencionado aqui. O .NET 4 original não entende as cadeias de conexão LocalDB, pois foi lançado muito antes do LocalDB.