Ve vašem dotazu v php je jednoduchá syntaktická chyba, přepište jej jako:
$query = mysql_query("SELECT staff_name FROM subject WHERE course_name = '".$_POST['sub']."'");
kdekoli předáváte jiná data než čísla, vždy použijte jednu obrácenou čárku, například 'myData' obklopit hodnoty.