JAVA JDK se nedodává se specifickými ovladači SQL (tj. mySQL, postgre, MS SQL atd.). Musíte si je stáhnout a nainstalovat samostatně. Odkaz ke stažení java mysql konektoru naleznete zde:
http://dev.mysql.com/downloads/connector/j/
Říká to dát ovladač do cesty vaší třídy, ale můžete ho také vložit do cesty sestavení vašeho IDE, může to být jednodušší v závislosti na tom, co děláte.