Que tal um mecanismo de pesquisa como o lucene:http://lucene.apache.org/java /docs/index.html Destina-se exatamente a este propósito.
