tente este comando docker para instalar o adaptador psycopg2
docker-compose exec web pipenv install psycopg2-binary==2.8.3
você também pode mencionar sua própria versão específica, se quiser.
se você ainda receber um erro, significa que o contêiner não foi interrompido corretamente. Use o comando abaixo para pará-lo
docker-compose down
e, em seguida, iniciá-lo após a instalação do psycopg2
docker-compose up