EDMX é o "contêiner" do Visual Studio para todas as coisas sobre seu Modelo de Dados de Entidade.
Ele contém todas as informações que estão no CSDL, SSDL, MSL, além de informações sobre o layout visual das tabelas em sua superfície de designer do Visual Studio.
O arquivo EDMX é convertido em CSDL, SSDL, MSL (normalmente incorporado como recursos em seu assembly) durante o processo de compilação. Você definitivamente não precisa distribuir ou copiar os arquivos EDMX em qualquer lugar para que o aplicativo seja executado.
Atualização: se você estiver mais interessado em uma abordagem baseada em código, confira o CTP code-first para Entity Framework que funciona sem nenhum arquivo .edmx, .csdl/ssdl/msl.