Máte správný nápad, jen nemůžete použít aliasy v where taková klauzule. Stačí použít vzorec přímo a mělo by to být v pořádku. Také byste pravděpodobně měli použít <= , a nikoli = :
select Fname, Lname, Salary, 1.10 * Salary as NewSalary
from employee
where 1.10 * Salary - (select AVG(salary) from employee) <= 400;