Лекция: Свойства информации. Понятие количества информации. Способы измерения количества информации.

Свойства информации:

Дуализм информации –с одной стороны, информация объективна в силу объективности данных, с другой – субъективна, в силу субъективности применяемых методов.

Полнота информации –характеризует степень достаточности данных для принятия или создания новых данных на основе имеющихся.

Достоверность информации –характеризует степень соответствия информации

реальному объекту с необходимой точностью.

Адекватность информации –выражает степень соответствия созданного с помощью информации образа реальному объекту, процессу, явлению.

Актуальность информации — Информация существует во времени. Информация, актуальная сегодня, может стать совершенно ненужной по истечении некоторого времени.

Количество информации – мера уменьшения неопределённости.

Объемный подход: основан на подсчете количества символов, из которых образовано сообщение (не учитывается смысловое содержание сообщения) За 1 бит принимается один двоичный символ в сообщении.

Вероятностный подход: основан на мысли о том, что любая информация может рассматриваться как уменьшение неопределенностинаших знаний об окружающем мире.

1)I=H2-H1 где I — количество информации. H2, H1 — начальная и конечная неопределенность соответственно.

В случае если H2=0 (т.е. некоторое событие с несколькими возможными исходами уже произошло): I=H Энтропия опыта равна той информации, которую мы получаем в результате его осуществления. И наоборот: информация, получаемая из опыта, может быть вычислена через его энтропию.

2) Формула Хартли

(для равно вероятных исходов события)

H=k*logaN

где H – энтропия

N — общее числа возможных исходов события

k – коэффициент пропорциональности

В связи с распространением двоичной системы счисления часто принимают

k=l, a=2, тогда количество информации: I=log2N.