Post muito detalhado - você conhece o BigBlueButton. Você está configurando em uma VM? Você pode configurar uma nova VM Ubuntu 16.04 de 64 bits e instalar uma nova cópia usando o script bbb-install.sh recém-lançado, consulte

https://github.com/bigbluebutton/bbb-install

Isso deve ajudá-lo a usar BigBlueButton 2.0-beta + SSL + HTML5. Se funcionar, você pode comparar o acima com o servidor em funcionamento e, muito provavelmente, localizar rapidamente o problema em seu servidor.

Tente o acima e deixe-nos saber se isso te ajuda.