Tente por:
SELECT *
FROM patientinfo, records
WHERE (patientinfo.patient_id = $patient_id) AND (patientinfo.patient_id = records.patient_id);
Você também pode listar especificamente as colunas a serem exibidas e atribuir a elas um alias, por exemplo:
SELECT records.date AS the_date
O
WHERE records.patient_id = $patient_id parece ok desde que $patient_id não seja uma string vazia. Para isso, eu echo a consulta antes de executá-la e verificar se está ok. 
