Ok, acho que seu problema é que você está usando AJAX para baixar o arquivo.

Não é possível baixar o arquivo usando AJAX (ou melhor - JS) de maneira normal. Você sabe, há um buraco muito grande para as explorações permitirem isso (acho que sim) - de qualquer maneira, não existe essa possibilidade.

Existem soluções embora. Um deles é criar iframe oculto dinamicamente na página e, em seguida, alterar sua localização para o script de download. Então você não está usando JS para baixar, mas recursos de navegador simples.

Outra maneira é descrita nesta página:

http://www.filamentgroup.com/lab/jquery_plugin_for_requesting_ajax_like_file_downloads/

Mybe vai ser uma ajuda para você.