Para realizar uma fila simples no redis que pode ser usada para reenviar trabalhos com falha, eu tentaria algo assim:
- 1 lista "up_for_grabs"
- 1 lista "ser_trabalhado_on"
- bloqueios com expiração automática
um trabalhador tentando conseguir um emprego faria algo assim:
timeout = 3600
#wrap this in a transaction so our cleanup wont kill the task
#Move the job away from the queue so nobody else tries to claim it
job = RPOPLPUSH(up_for_grabs, being_worked_on)
#Set a lock and expire it, the value tells us when that job will time out. This can be arbitrary though
SETEX('lock:' + job, Time.now + timeout, timeout)
#our application logic
do_work(job)
#Remove the finished item from the queue.
LREM being_worked_on -1 job
#Delete the item's lock. If it crashes here, the expire will take care of it
DEL('lock:' + job)
E de vez em quando, podemos simplesmente pegar nossa lista e verificar se todos os trabalhos que estão lá realmente têm um bloqueio. neste caso, reenviaríamos.
Este seria o pseudo código para isso:
loop do
items = LRANGE(being_worked_on, 0, -1)
items.each do |job|
if !(EXISTS("lock:" + job))
puts "We found a job that didn't have a lock, resubmitting"
LREM being_worked_on -1 job
LPUSH(up_for_grabs, job)
end
end
sleep 60
end
