Manipulando grandes registros em um aplicativo Java EE

Sua melhor aposta é não armazene os dados na memória do Java de qualquer forma, mas apenas escreva os dados obtidos na resposta imediatamente à medida que os dados chegam. Você também precisa configurar o driver MySQL JDBC para servir o conjunto de resultados linha por linha por Statement#setFetchSize() conforme a documentação do driver MySQL JDBC , caso contrário, ele armazenará tudo em cache na memória.

Supondo que você esteja familiarizado com Servlets, aqui está um exemplo inicial que leva tudo isso em consideração:

protected void doGet(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
    response.setContentType("text/plain");
    response.setHeader("Content-Disposition", "attachment;filename=numbers.txt"); // Force download popup.

    Connection connection = null;
    Statement statement = null;
    ResultSet resultSet = null;
    Writer writer = response.getWriter();

    try {
        connection = database.getConnection();
        statement = connection.createStatement(ResultSet.TYPE_FORWARD_ONLY, ResultSet.CONCUR_READ_ONLY);
        statement.setFetchSize(Integer.MIN_VALUE);
        resultSet = statement.executeQuery("SELECT number FROM phonenumbers");

        while (resultSet.next()) {
            writer.write(resultSet.getString("number"));
            if (!resultSet.isLast()) {
                writer.write(",");
            }
        }
    } catch (SQLException e) {
        throw new ServletException("Query failed!", e);
    } finally { 
        if (resultSet != null) try { resultSet.close; } catch (SQLException logOrIgnore) {}
        if (statement != null) try { statement.close; } catch (SQLException logOrIgnore) {}
        if (connection != null) try { connection.close; } catch (SQLException logOrIgnore) {}
    }
}