Em primeiro lugar, você precisa usá-los para indexação de pesquisa de texto? GIN e GiST são especializados em índices para alguns tipos de dados. Se você precisar indexar valores simples de char ou inteiros, então o índice B-Tree normal é o melhor.
De qualquer forma, a documentação do PostgreSQL tem um capítulo sobre GIST e um em GIN , onde você pode encontrar mais informações.
E, por último, mas não menos importante, a melhor maneira de descobrir qual é o melhor é gerar dados de amostra (tanto quanto você precisa para ser um cenário real) e, em seguida, criar um índice GIST , medindo quanto tempo é necessário para criar o índice, inserir um novo valor, executar uma consulta de amostra. Em seguida, elimine o índice e faça o mesmo com um índice GIN. Compare os valores e você terá a resposta que precisa, com base em seus dados.