Длины ненулевых векторов a и b равны. См вложение...

60°

Мы знаем, что a²=b² и

(a+2b)•(5a-4b)=0

5a²-8b²+6(a•b)=0

(a•b)=0.5a²=0.5b²

Угол между векторами (точнее его косинус)

cos α = (a•b)/(ab)=0.5b²/ab=0.5

Это угол в 60 градусов