При оцифровке книги какой формат лучше FB2 или PDF?

Зависит от метода оцифровки и преследуемых целей. PDF - профессиональный формат цифрового документа с очень богатым функционалом и широчайшей поддержкойв разных приложениях, операционных системах и разных странах мира. Идеально подходит для создания документа сложной структуры (таблицы, формулы, текстовые фрагменты на экзотических языках и т.д.), который будет выглядеть одинаково на любом компьютере в любой точке планеты.

FB2 - любительский формат, изначально разработанный в Рунете для чисто текстовых файлов с минимальным набором средств по форматированию текста. Позднее появилась поддержка картинок, но сверстать в FB2 текст сложной структуры практически невозможно, по крайней мере так, чтобы он выглядел профессионально и одинаково отображался на разных компьютерах. К тому же за пределами Рунета он почти не известен (равно как у нас почти не используются западные форматы электронных публикаций типа epub и т.д.).

Так что выбор формата будет зависеть как от того, работаете ли Вы с текстом или просто отсканированными картинками, так и того, для каких целей создаете документ. Если хотите создать по-настоящему качественную электронную книгу - используйте PDF, для разного рода поделок сгодится FB2.