solve y = G*(x - H*y)^2 for y