Лекция: Язык как способ представления информации. Количество информации.

Напомним одно из определений понятия «Информация».

Определение. Информация — это содержание сообщения, сигнала, памяти и т.д.

Примечание.

Очень важным при этом является способ представления той или иной информации. Только представив информацию в каком-либо виде, ее можно передавать. Чтобы понять содержание информации, надо знать правила (соглашения), по которым представление переводится в содержание, смысл.

Пример: Перед посадкой самолета в Лондоне стюардесса делает объявление: “Сейчас в городе идет дождь, температура воздуха – два градуса выше нуля”. Эту информацию она получила от бортинженера. Для передачи полученной информации она воспользовалась английским языком. В самолете есть люди, которые не понимают английский язык. Тогда информацию о погоде, переданную стюардессой на английском языке, они воспримут как некий “шум”, а не как совет приготовить зонтик.

Этот пример показывает, что при неизвестной форме представления информации, ее содержание не будет воспринято принимающей стороной.

Можно выделить, по крайней мере, четыре различных подхода к определению способа представления информации.

В быту слово "информация" часто применяется как синоним слов "сведения", "сообщение", "осведомление о положении дел". Очевидно, что количественно измерить такую информацию невозможно, в лучшем случае можно говорить о ее достоверности или недостоверности.

В кибернетике понятие "информация" используется для характеристики управляющих сигналов, которые обеспечивают устойчивое функционирование сложных систем. В этом случае следует говорить о конкретном представлении управляющих сигналов в виде конкретных технических характеристик этих сигналов, их единиц измерения, других свойств и параметров, дающих достаточно полное описание изучаемых сигналов.

В философии понятие "информация" тесно связано с такими понятиями как взаимодействие и познание. В процессе взаимодействия двух объектов происходят их изменения, можно сказать, что на них отпечатывается информация о взаимодействии. Человек познает окружающий мир, в его сознании накапливаются Знания, т.е. информация. Количественную оценку информации в этом случае произвести затруднительно, т.к. подобные знания зачастую носят смысловой, содержательно-описательный характер, который трудно поддается измерению.

В информатикепонятие "информация" вводится как мера уменьшения неопределенности. В этом случае под информацией понимается изменение некоторой количественной величины, характеризующей состояние исследуемого объекта (системы, процесса, явления), определенной до и после опыта, проведенного над этим объектом.

Во всех отмеченных подходах к представлению информации важным является способ измерения количества информации. Существует несколько подходов к измерению количества информации Статистический, Семантический, Прагматический:

§ Статистический подход— оценивается количество информации в передаваемых сообщениях о состояниях некоторой системы, которая может иметь определённое количество дискретных состояний. Если до получения информации было известно сколько таких состояний может получать система и после получения стало известно в каком состоянии она оказалась, то можно получить количество принятой информации как меру снятия неопределённости о состоянии системы. Если считать, что все N состояний системы равновероятны, количество информации можно определить, используя формулу английского инженера Р.Хартлиi =log2 N, причем N=2I

Пример: «Бросание монеты»: перед броском существует неопределенность, как упадет монета предсказать невозможно. После броска реализуется полная определенность (например «орел»). Аналогично, при бросании четырехгранной пирамиды существуют 4 возможных исхода, а при бросании игрального кубика — 6 возможных исходов.