Как правильно, округлён по правилам, или округлён в правилам?

Явная ошибка, потому что если что-то делать, то надо делать "по правилам" или "в соответствии с правилами", "согласно правилам" (наречие, кол-во синонимов 10):

Например, названия фильмов: «Строго по правилам», «Любовь по правилам и без», «Бой не по правилам» и др.