Как решить этот пример (-3a+10b)²

С помощью формулы сокращенного умножения (в данном случае квадрат суммы)
=9a^2+100b^2-60ab