Você precisa usar a função Raw de eloquente.
DB::raw(your sql)
No seu caso, a seguinte consulta deve funcionar:
->orderBy(DB::raw('convert(name using gbk)'))
Se você quiser usar sql bruto em suas instruções where, você pode usar a função de atalho
whereRaw() e para selecionar o selectRaw() função. 
