6sin²x - sinxcosx - cos ²x = 0

Делим все на cos^2x
6tg^2x-tgx-1=0
Вводим замену: tgx=a
a^2-a-1=0
D=1-4*(-1)=9
a1=1+3/2=2
a2=1-3/2=-1

Возвращаемся к замене
Tgx=2
x1=arctg2+пn
Tgx=-1
X2=-arctg1+пn
X2=-п/4+пn

6 забыла В общем не так

6sin^2x-sinx*cosx-cos^2x=0 |:cos^2x неравное 0
6tg^x-tgx-1=0
Пусть tgx=t
6t^2-t-1=0
D=1+24=25
t1=(1-5)/12=-1/3
t2=1/2
 tgx=-1/3
x=-arctgx1/3+Пn, n∈Z

tgx=1/2
x=arctgx1/2+Пn, n∈Z