Isso funciona para mim no Laravel 5.3, usando seu exemplo:
Hackathon::withCount('participants')->orderBy('participants_count', 'desc')->paginate(10);
Dessa forma, ele é ordenado na consulta e a paginação funciona bem.
Hackathon::withCount('participants')->orderBy('participants_count', 'desc')->paginate(10);
