baixe o xampp aqui
extrair para algum lugar que você gosta. em seguida, inicie setup_xampp.bat a partir do diretório extraído, siga as instruções
clique duas vezes em xampp_Start.exe para iniciar, xampp_stop.exe para parar.
vc pode até extrair isso em um drive USB e quando vc mudar de compus basta iniciar o setup.bat mais uma vez. e você está pronto para ir