Почему Ярославль многим кажется большим городом?

Потому что он - областной центр, а для жителей райцентров областная столица - по умолчанию "большой город", там есть театры, крупные музеи, ночные клубы, торговые центры, областная больница и т.д., чего глубинка лишена. Все познается в сравнении.

Ну Ярославль так-то и не маленький - больше 600 000 жителей согласно Википедии.