Как измерить информацию

Существует как минимум 3 подхода к измерению:
содержательный (отталкиваемся от содержания события)
алфавитный (отталкиваемся от количества символов и их инф. объем)
вероятностный (отталкиваемся от вероятности события)