Závorky jsou důležité, proto zkuste toto:
SELECT japanese
FROM edict
WHERE japanese LIKE CONCAT('%',
(SELECT japanese FROM edict WHERE english LIKE 'dog' LIMIT 1),
'%');
Možná by bylo dobré nám sdělit, jakou chybu jste obdrželi.