A codificação dos arrays de bytes (a forma como o servidor os envia) foi alterada de 8.4 para 9.0:
Veja as notas da versão:
http://www.postgresql.org/docs/9.0/static/release-9-0.html#AEN99255
e a descrição da configuração para obter detalhes:
http://www.postgresql.org/docs/9.0/static/runtime-config-client.html#GUC-BYTEA-OUTPUT