A resposta óbvia é:experimente.
A resposta quase óbvia é:fazer consultas geralmente é mais rápido do que iterar por arrays em php. Uma consulta é muito mais rápida do que várias consultas devido à menor sobrecarga.
É aqui que eu começaria:
SELECT * FROM table WHERE something IS IN ('a1', 'a2', ..., 'a1000')
