O JAVA JDK não vem com drivers SQL específicos (ou seja, mySQL, postgre, MS SQL, etc). Você precisa baixá-los e instalá-los separadamente. O link de download para o conector java mysql pode ser encontrado aqui:

http://dev.mysql.com/downloads/connector/j/

Ele diz para colocar o driver em seu caminho de classe, mas você também pode colocá-lo no caminho de construção do seu IDE, pode ser mais fácil dependendo do que você está fazendo.