Чему равен момент силы F относительно оси вращения рычага, проходящей через точку О.

Момент - произведение силы на плечо.
Плечо - кратчайшее расстояние от точки О до прямой, содержащей силу.

Поэтому ответ M = F*l2