Dependendo da rapidez com que você precisa que os usuários sejam notificados, você pode usar a pesquisa (enviando uma solicitação a cada X segundos para ver se há algo novo) ou usar cometa .

De qualquer forma, você precisará de uma linguagem de programação do lado do servidor para consultar o banco de dados e servir os resultados, e precisará de algum javascript no lado do cliente para enviar solicitações e exibir respostas. Eu recomendo usar a biblioteca jQuery, pois simplifica muito a incompatibilidade entre navegadores.