Mysql
 sql >> Base de Dados >  >> RDS >> Mysql

Ranking com milhões de entradas


Uma única busca de disco é de cerca de 15 ms, talvez um pouco menos com discos de nível de servidor. Um tempo de resposta inferior a 500 ms limita você a cerca de 30 acessos aleatórios ao disco. Isso não é muito.

No meu pequeno laptop, tenho um banco de dados de desenvolvimento com
[email protected] [kris]> select @@innodb_buffer_pool_size/1024/1024 as pool_mb;
+--------------+
| pool_mb      |
+--------------+
| 128.00000000 |
+--------------+
1 row in set (0.00 sec)

e um disco de laptop lento. Eu criei uma tabela de pontuação com
[email protected] [kris]> show create table score\G
*************************** 1. row ***************************
       Table: score
Create Table: CREATE TABLE `score` (
  `player_id` int(10) unsigned NOT NULL AUTO_INCREMENT,
  `score` int(11) NOT NULL,
  PRIMARY KEY (`player_id`),
  KEY `score` (`score`)
) ENGINE=InnoDB AUTO_INCREMENT=2490316 DEFAULT CHARSET=latin1
1 row in set (0.00 sec)

com pontuações de números inteiros aleatórios e valores sequenciais de player_id. Nós temos
[email protected] [kris]> select count(*)/1000/1000 as mrows from score\G
*************************** 1. row ***************************
mrows: 2.09715200
1 row in set (0.39 sec)

O banco de dados mantém o par (score, player_id) em score ordem no índice score , como os dados em um índice InnoDB são armazenados em um BTREE, e o ponteiro de linha (ponteiro de dados) é o valor da chave primária, de modo que a definição KEY (score) acaba sendo KEY(score, player_id) internamente. Podemos provar isso observando o plano de consulta para uma recuperação de pontuação:
[email protected] [kris]> explain select * from score where score = 17\G
*************************** 1. row ***************************
           id: 1
  select_type: SIMPLE
        table: score
         type: ref
possible_keys: score
          key: score
      key_len: 4
          ref: const
         rows: 29
        Extra: Using index
1 row in set (0.00 sec)

Como você pode ver, a key: score está sendo usado com Using index , o que significa que nenhum acesso a dados é necessário.

A consulta de classificação para uma determinada constante player_id leva precisamente 500ms no meu laptop:
[email protected] [kris]>  select p.*, count(*) as rank 
    from score as p join score as s on p.score < s.score 
   where p.player_id = 479269\G
*************************** 1. row ***************************
player_id: 479269
    score: 99901
     rank: 2074
1 row in set (0.50 sec)

Com mais memória e em uma caixa mais rápida, pode ser mais rápido, mas ainda é uma operação comparativamente cara, porque o plano é péssimo:
[email protected] [kris]> explain select p.*, count(*) as rank from score as p join score as s on p.score < s.score where p.player_id = 479269;
+----+-------------+-------+-------+---------------+---------+---------+-------+---------+--------------------------+
| id | select_type | table | type  | possible_keys | key     | key_len | ref   | rows    | Extra                    |
+----+-------------+-------+-------+---------------+---------+---------+-------+---------+--------------------------+
|  1 | SIMPLE      | p     | const | PRIMARY,score | PRIMARY | 4       | const |       1 |                          |
|  1 | SIMPLE      | s     | index | score         | score   | 4       | NULL  | 2097979 | Using where; Using index |
+----+-------------+-------+-------+---------------+---------+---------+-------+---------+--------------------------+
2 rows in set (0.00 sec)

Como você pode ver, a segunda tabela no plano é uma varredura de índice, portanto, a consulta diminui linearmente com o número de jogadores.

Se você quiser uma tabela de classificação completa, precisará deixar de fora a cláusula where e, em seguida, obterá duas varreduras e tempos de execução quadráticos. Portanto, este plano implode completamente.

Hora de ir procedimental aqui:
[email protected] [kris]> set @count = 0; 
    select *, @count := @count + 1 as rank from score where score >= 99901 order by score desc ;
...
|   2353218 | 99901 | 2075 |
|   2279992 | 99901 | 2076 |
|   2264334 | 99901 | 2077 |
|   2239927 | 99901 | 2078 |
|   2158161 | 99901 | 2079 |
|   2076159 | 99901 | 2080 |
|   2027538 | 99901 | 2081 |
|   1908971 | 99901 | 2082 |
|   1887127 | 99901 | 2083 |
|   1848119 | 99901 | 2084 |
|   1692727 | 99901 | 2085 |
|   1658223 | 99901 | 2086 |
|   1581427 | 99901 | 2087 |
|   1469315 | 99901 | 2088 |
|   1466122 | 99901 | 2089 |
|   1387171 | 99901 | 2090 |
|   1286378 | 99901 | 2091 |
|    666050 | 99901 | 2092 |
|    633419 | 99901 | 2093 |
|    479269 | 99901 | 2094 |
|    329168 | 99901 | 2095 |
|    299189 | 99901 | 2096 |
|    290436 | 99901 | 2097 |
...

Por se tratar de um plano processual, é instável:
  • Você não pode usar LIMIT, porque isso compensará o contador. Em vez disso, você precisa baixar todos esses dados.
  • Você não pode realmente classificar. Este ORDER BY cláusula funciona, porque não classifica, mas usa um índice. Assim que você ver using filesort , os valores do contador serão totalmente desativados.

É a solução que mais se aproxima do que um banco de dados NoSQL (leia-se:procedural) fará como um plano de execução.

Podemos estabilizar o NoSQL dentro de uma subconsulta e, em seguida, cortar a parte que nos interessa:
[email protected] [kris]> set @count = 0; 
    select * from ( 
        select *, @count := @count + 1 as rank 
          from score 
         where score >= 99901 
      order by score desc 
    ) as t 
    where player_id = 479269;
Query OK, 0 rows affected (0.00 sec)
+-----------+-------+------+
| player_id | score | rank |
+-----------+-------+------+
|    479269 | 99901 | 2094 |
+-----------+-------+------+
1 row in set (0.00 sec)

[email protected] [kris]> set @count = 0; 
    select * from ( 
        select *, @count := @count + 1 as rank 
          from score 
         where score >= 99901 
      order by score desc 
    ) as t 
    where rank between 2090 and 2100;
Query OK, 0 rows affected (0.00 sec)
+-----------+-------+------+
| player_id | score | rank |
+-----------+-------+------+
|   1387171 | 99901 | 2090 |
|   1286378 | 99901 | 2091 |
|    666050 | 99901 | 2092 |
|    633419 | 99901 | 2093 |
|    479269 | 99901 | 2094 |
|    329168 | 99901 | 2095 |
|    299189 | 99901 | 2096 |
|    290436 | 99901 | 2097 |
+-----------+-------+------+
8 rows in set (0.01 sec)

A subconsulta materializará o antigo conjunto de resultados como uma tabela ad-hoc chamada t, que podemos acessar na consulta externa. Por ser uma tabela ad-hoc, no MySQL ela não terá índice. Isso limita o que é possível com eficiência na consulta externa.

Observe como ambas as consultas satisfazem sua restrição de tempo. Aqui está o plano:
[email protected] [kris]> set @count = 0; explain select * from ( select *, @count := @count + 1 as rank from score where score >= 99901 order by score desc ) as t where rank between 2090 and 2100\G
Query OK, 0 rows affected (0.00 sec)

*************************** 1. row ***************************
           id: 1
  select_type: PRIMARY
        table: <derived2>
         type: ALL
possible_keys: NULL
          key: NULL
      key_len: NULL
          ref: NULL
         rows: 2097
        Extra: Using where
*************************** 2. row ***************************
           id: 2
  select_type: DERIVED
        table: score
         type: range
possible_keys: score
          key: score
      key_len: 4
          ref: NULL
         rows: 3750
        Extra: Using where; Using index
2 rows in set (0.00 sec)

Ambos os componentes de consulta (o interno, DERIVED query e o BETWEEN externo restrição) ficará mais lento para jogadores mal ranqueados, e então violará grosseiramente suas restrições de tempo.
[email protected] [kris]> set @count = 0; select * from ( select *, @count := @count + 1 as rank from score where score >= 0 order by score desc ) as t;
...
2097152 rows in set (3.56 sec)

O tempo de execução para a abordagem descritiva é estável (dependendo apenas do tamanho da tabela):
[email protected] [kris]> select p.*, count(*) as rank 
   from score as p join score as s on p.score < s.score 
   where p.player_id = 1134026;
+-----------+-------+---------+
| player_id | score | rank    |
+-----------+-------+---------+
|   1134026 |     0 | 2097135 |
+-----------+-------+---------+
1 row in set (0.53 sec)

Sua chamada.