O Facebook tem servidores muito caros usando um CDN muito caro (Akamai) e usa cache do lado do servidor como o memcached.
Se você puder prever com precisão razoável as coisas que o usuário pode pesquisar (por exemplo, uma lista de amigos e amigos de amigos conhecidos) e pré-armazená-los no servidor, você pode fazer isso rapidamente. Se você entregar essa lista com a página da Web em primeiro lugar e armazená-la em cache no cliente, será extremamente rápido (uma vez que a página seja carregada de qualquer maneira).