PostgreSQL
 sql >> Base de Dados >  >> RDS >> PostgreSQL

PostgreSQL usando pg_trgm mais lento que a varredura completa


tldr:os trigramas podem não ser bons para procurar padrões consistindo de um único caractere repetido N vezes (como 666666 ) porque existe apenas 1 trigrama não terminal e que poderia têm uma alta ocorrência no espaço de busca.

Quando o gin-index é usado, o bitmap de linhas é muito grande para caber na memória, então, em vez disso, ele armazena a referência às páginas, e o banco de dados precisa executar uma nova verificação dessas páginas. Se o número de páginas verificadas novamente for pequeno, o uso do índice ainda é benéfico, no entanto, com um número alto de páginas verificadas novamente, o índice apresenta um desempenho ruim. Isso é destacado pelas seguintes linhas na sua saída de explicação
   Recheck Cond: (x ~~* '%666666%'::text)
   Rows Removed by Index Recheck: 36257910
   Heap Blocks: exact=39064 lossy=230594

O problema é específico da sua string de pesquisa, ou seja, 666666 , em relação aos dados de teste.

se você executar select pg_trgm('666666') , você encontrará:
        show_trgm        
-------------------------
 {"  6"," 66","66 ",666}
(1 row)

Os primeiros 3 trigramas nem serão gerados em um contexto ilike (correção sugerida pelo usuário jjanes ) . A pesquisa no índice produz todas as páginas contendo 666 . Você pode validar isso executando a consulta de análise de explicação com ... ilike '%666%' , e obter os mesmos Heap Blocks saída como acima.

se você pesquisar com o padrão 123456 , você verá que ele tem um desempenho muito melhor, porque gera um conjunto maior de trigramas para pesquisar:
              show_trgm              
-------------------------------------
 {"  1"," 12",123,234,345,456,"56 "}
(1 row)

Na minha máquina, recebo o seguinte:
|------------------------------------|
| pattern | pages rechecked          |
|         | exact | lossy  | total   |
|------------------------------------|
| 123456  |   600 |        |    600  |
| 666666  | 39454 | 230592 | 270046* |
|    666  | 39454 | 230592 | 270046* |
|------------------------------------|
*this is rougly 85% of the total # of pages used for the table 't'

Aqui está a saída de explicação:
postgres=> explain analyze select * from t where x ~ '123456';
                                                        QUERY PLAN                                                        
--------------------------------------------------------------------------------------------------------------------------
 Bitmap Heap Scan on t  (cost=90.75..18143.92 rows=5000 width=22) (actual time=110.962..113.509 rows=518 loops=1)
   Recheck Cond: (x ~ '123456'::text)
   Rows Removed by Index Recheck: 83
   Heap Blocks: exact=600
   ->  Bitmap Index Scan on t_x_idx  (cost=0.00..89.50 rows=5000 width=0) (actual time=110.868..110.868 rows=601 loops=1)
         Index Cond: (x ~ '123456'::text)
 Planning time: 0.703 ms
 Execution time: 113.564 ms
(8 rows)

postgres=> explain analyze select * from t where x ~ '666666';
                                                         QUERY PLAN                                                          
-----------------------------------------------------------------------------------------------------------------------------
 Bitmap Heap Scan on t  (cost=54.75..18107.92 rows=5000 width=22) (actual time=137.143..18111.609 rows=462 loops=1)
   Recheck Cond: (x ~ '666666'::text)
   Rows Removed by Index Recheck: 36258389
   Heap Blocks: exact=39454 lossy=230592
   ->  Bitmap Index Scan on t_x_idx  (cost=0.00..53.50 rows=5000 width=0) (actual time=105.962..105.962 rows=593708 loops=1)
         Index Cond: (x ~ '666666'::text)
 Planning time: 0.420 ms
 Execution time: 18111.739 ms
(8 rows)

postgres=> explain analyze select * from t where x ~ '666';
                                                        QUERY PLAN                                                         
---------------------------------------------------------------------------------------------------------------------------
 Bitmap Heap Scan on t  (cost=54.75..18107.92 rows=5000 width=22) (actual time=102.813..17285.086 rows=593708 loops=1)
   Recheck Cond: (x ~ '666'::text)
   Rows Removed by Index Recheck: 35665143
   Heap Blocks: exact=39454 lossy=230592
   ->  Bitmap Index Scan on t_x_idx  (cost=0.00..53.50 rows=5000 width=0) (actual time=96.100..96.100 rows=593708 loops=1)
         Index Cond: (x ~ '666'::text)
 Planning time: 0.500 ms
 Execution time: 17300.440 ms
(8 rows)