Система уравнений (изи)
x^2-y^2 = 5
2x+y = 4

Из второго уравнения выражаешь у
у=4-2х
и подставляешь это всё в первое уравнение вместо у
х^2 -(4-2х)-5= 0 и решаешь