Talvez um problema com a configuração de execução de 32/64 bits? A DLL é a mesma para ambas as plataformas, mas o .exe não é. Você pode verificar se seu projeto de teste está configurado para AnyCPU.