para desempenho, você deve adicionar esses índices
create index idx1 on dots (site_id, dist_from_site, geom);
create index idx2 on sites (site_id, geom);
para a segunda atualização tente adicionar também este índice
create index idx3 on dots ( geom, latitude, longitude);