PostgreSQL
 sql >> Base de Dados >  >> RDS >> PostgreSQL

foreach %dopar% + RPostgreSQL


É mais eficiente criar a conexão de banco de dados uma vez por trabalhador, em vez de uma vez por tarefa. Infelizmente, o mclaply não fornece um mecanismo para inicializar os workers antes de executar as tarefas, portanto, não é fácil fazer isso usando o backend doMC, mas se você usar o backend doParallel, poderá inicializar os workers usando clusterEvalQ. Aqui está um exemplo de como reestruturar o código:
library(doParallel)
cl <- makePSOCKcluster(detectCores())
registerDoParallel(cl)

clusterEvalQ(cl, {
  library(DBI)
  library(RPostgreSQL)
  drv <- dbDriver("PostgreSQL")
  con <- dbConnect(drv, dbname="nsdq")
  NULL
})

id.qed.foreach <- foreach(i=1588:3638, .inorder=FALSE,
                          .noexport="con",
                          .packages=c("DBI", "RPostgreSQL")) %dopar% {
  lst <- eval(expr.01)  #contains the SQL query which depends on 'i'
  qry <- dbSendQuery(con, lst)
  tmp <- fetch(qry, n=-1)
  dt <- dates.qed2[i]
  list(date=dt, idreuters=tmp$idreuters)
}

clusterEvalQ(cl, {
  dbDisconnect(con)
})

Como doParallel e clusterEvalQ estão usando o mesmo objeto de cluster cl , o loop foreach terá acesso ao objeto de conexão do banco de dados con ao executar as tarefas.