Não basta ter o arquivo JAR em seu diretório atual. Você tem que dizer ao java para incluir o arquivo jar do mysql no classpath . Isso pode ser feito especificando-o na linha de comando java com o -cp parâmetro, ou pelo CLASSPATH variável de ambiente.