A maneira mais fácil que encontrei é:
su postgres
psql
alter role user_name superuser;
#then create the extension as the user in a different screen
alter role user_name nosuperuser;
Basicamente, dê ao usuário poderes de superusuário por um curto período de tempo e crie a extensão. Em seguida, revogue os poderes do superusuário.
Você também pode usar
\connect user_name
para se tornar esse usuário e criar a extensão diretamente do postgres
do utilizador.