Aparentemente não foi bem feito. O JAR deve ir em /glassfish/domains/[domainname]/lib/ext pasta da instalação do Glassfish onde [domainname] geralmente o padrão é domain1 . Você pode e não deve configurá-lo do lado do Eclipse.