Com seu SQL original como base (se você quiser classificar primeiro por id e depois por sub_id):
$sql="select * from gallery group by sub_id order by id desc, subid desc limit 0,4";
Se não se pretende eliminar os "duplicados", o seguinte sql pode ser usado em vez do acima:
$sql="select * from gallery order by id desc, subid desc limit 0,4";