Кто поможет решить систему уравнения?

Эта система легко решается заменой переменной, которая становится очевидной, если вот втором уравнении выделить полный квадрат. Смотрите:

x² + 8xy + 4y² = x² + 2*x*(4y) + (4y)² - 12y² = (x+4y)² - 12y²

Тогда первое уравнение можно переписать в виде (x+4y)+2y = 90 (или 0,9? У вас как-то невнятно написано...)

И если теперь ввести новую переменную z = x+4y, то систему можно написать уже в довольно простом виде:

z + 2y = 90

z² - 12y² = 124

Выразив z через у из первого уравнения и подставив во второе, можно получить квадратное уравнение с одной переменной.