É porque você ainda tem as categorias na matriz quando já as atribuiu. O que você pode fazer é fazer a função onde você passa o argumento como referência, e no loop foreach para ter a capacidade de limpar o array daquela categoria já atribuída. Implementação simples abaixo.
function getChildren(&$rows, $p = 0) {
$r = array();
foreach($rows as $row_id => $row) {
if ($row['parent_node']==$p) {
$r[$row['product_category_code']] = getChildren($rows, $row['product_category_code']);
unset($rows[$row_id]);
}
}
return $r;
}