Ujistěte se, že to spouštíte z normálního příkazového řádku a ne z příkazového řádku mysql. Takže takhle:
C:\[path to mysqldump app] > mysqldump -u root -p root mydatabase > dumpfile.sql
ne
mysql > mysqldump -u root -p root mydatabase > dumpfile.sql