O problema era que ele estava usando a biblioteca sqlite3 que é instalada por padrão pelo OS X. Depois de vincular a biblioteca brewed usando brew link sqlite3 --force Consegui criar a extensão postgis.