Extraído dos documentos MySQL supondo que você esteja usando pelo menos o MySQL 5.0 ou superior:
Caracteres permitidos em sem aspas identificadores:
-
ASCII:[0-9,a-z,A-Z$_] (letras latinas básicas, dígitos 0-9, dólar, sublinhado)
-
Estendido:U+0080 .. U+FFFF
Caracteres permitidos entre entre aspas identificadores incluem o Plano Multilíngue Básico Unicode (BMP) completo, exceto U+0000:
-
ASCII:U+0001 .. U+007F
-
Estendido:U+0080 .. U+FFFF
TL;DR
Respondendo sua pergunta, sim. Você pode usar o
$ caractere em nomes de colunas entre aspas ou não. 
