Encontrei uma solução funcional para o problema (pelo menos funcionou para mim com o JDev 12.1.2.0, mas acredito que deve funcionar no 11.x também):
Adicione a seguinte linha no jdk.conf (JDEV_HOME/jdeveloper/ide/bin) e reinicie o JDeveloper:
AddVMOption -Dfile.encoding=UTF-8
