Consegui usar uma instrução case em um order by. Você só precisa envolver a instrução case entre parênteses. Caso contrário, a palavra case é tratada como um nome de coluna e aspas.
$this->db->distinct();
$this->db->select('country');
$this->db->from('distributors');
$this->db->where('country != ', '');
$this->db->order_by("(CASE country WHEN 'UNITED STATES OF AMERICA' THEN '1' ELSE country END)");