Sugiro que você use o ez sql para facilitar a consulta ao banco de dados:http://justinvincent.com/ezsql
E jquery também:http://jquery.com/
E aqui está um tutorial mostrando como realizar chamadas ajax em jquery:http://net.tutsplus.com/tutorials/javascript-ajax/5-ways-to-make-ajax-calls-with-jquery/
Pelo seu código, posso ver que você está tentando consultar o banco de dados usando uma variável $_GET. E presumo que o nome do seu campo de pesquisa seja 'q'. E exibindo os resultados dinamicamente usando javascript.
HTML:
<input type="text" id="q" name="q"/>
<div id="your_div"></div><!--this is where your html table will be loaded dynamically as you type a value on the textbox-->
JAVASCRIPT:
<script src="jquery.js"></script>
<script>
$(function(){
$('#q').keyup(function(){
var query = $.trim($(this).val());
$('#your_div').load('phpfile.php', {'q' : query});
});
});
</script>
PHP:
//database configuration here
$q = mysql_real_escape_string($_POST['q']);
//html table here
