Mathematics ... my favourite subject at school.1) wasn't2) weren't ​

Слово "Mathematics" неживой, т.е. это предмет. Значит он It (Это)

Was используется только в I/He/She/It

Were используется только в You/We/They

Следовательно 1)wasn't (кстати это сокращённая от was not)