Depois de uma luta longa e brutal, acho que consertei esse problema simplesmente fazendo a estratégia que os outros estão falando, mas usando a própria função psycopg2 connect:
from psycopg2 import connect
conn = connect(
database=database,
user=username,
password=password,
host=hostname,
port=port,
connect_timeout=3,
# https://www.postgresql.org/docs/9.3/libpq-connect.html
keepalives=1,
keepalives_idle=5,
keepalives_interval=2,
keepalives_count=2)
Eu estava vendo o psycopg2 travar consistentemente em consultas de longa duração, mas agora o problema parece estar totalmente resolvido.
Observe que isso pode ser uma nova funcionalidade, pois essa pergunta é antiga.