Você precisará analisar o uso da Fórmula de Haversine . Você encontrará muitos exemplos online mostrando como implementar a fórmula em PHP e SQL.
O Google tem um bom exemplo para MySQL :
SELECT id, ( 3959 * acos( cos( radians(37) ) * cos( radians( lat ) ) * cos( radians( lng ) - radians(-122) ) + sin( radians(37) ) * sin( radians( lat ) ) ) ) AS distance
FROM markers HAVING distance < 25 ORDER BY distance LIMIT 0 , 20;