Você percebe qual é o formato de um arquivo CSV, não é? Que as strings devem ser colocadas entre aspas se contiverem caracteres não alfa? E a função fputcsv() do PHP faz isso, exatamente como deveria
Embora você possa definir o argumento de inclusão para fputcsv() para dizer qual caractere deve ser usado para citações/inclusões.
por exemplo.
fputcsv($fp, $row, ",", "'");
Para usar aspas simples em vez de aspas duplas, ou
fputcsv($fp, $row, ",", " ");
para usar um espaço
