Подходы к оценке количества информации

   Алгоритмический подход к измерению количества информации, в силу ряда объективных причин, не нашел широкого практического применения. Во-первых, как писал сам А.Н. Колмогоров, "на пути его формализации встает очевидная трудность: то, что просто описывается на одном языке, может не иметь простого описания на другом, и непонятно, какой способ описания выбрать" [5]. То есть алгоритмическая оценка информации зависит от выбранного метода программирования, а такой выбор, в свою очередь, по сути дела всегда имеет субъективный характер. Во-вторых, практическое использование формулы А.Н. Колмогорова возможно лишь применительно к весьма простым объектам, имеющим математическое описание, в то время как отсутствие последнего является характерной и обязательной чертой сложных объектов [4]. Кроме того, понятие "сложность" само по себе является относительным и зависит от уровня рассмотрения объектов. И, наконец, в-третьих, в соответствии с теоремой Геделя о неполноте формальных систем, нельзя доказать, что минимальная длина программы преобразования X в Y, составленная на каком-либо языке программирования, действительно является объективно минимальной.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

   2.5 Семантический подход

   Семантический подход  учитывает целесообразность и полезность информации. Применяется при оценке эффективности получаемой информации и ее соответствия реальности.

  В рамках этого подхода рассмотрим такие меры, как целесообразность, полезность (учитывают прагматику информации) и истинность информации (учитывает семантику информации).

   Целесообразность информации

   Количество I получаемой вместе с сообщением информации с позиций ее целесообразности определяется по формуле:

                                                               (2.6)     

где p1, p2 – вероятности достижения цели после и до получения сообщения, соответственно.

   Пример 1. Пусть вероятность p2 сдачи экзамена до получения сообщения (подсказки от соседа) оценивается студентом со значением 0,2. После того, как ему удалось получить подсказку, вероятность сдачи увеличилась: p1 = 0,8. Определить количество информации, содержащейся в подсказке, с точки зрения ее целесообразности.

   В соответствии с приведенной формулой  имеем: I = log2(0,8/0,2) = log24 = 2.

   Пример 2. Пусть положение студента до получения подсказки оценивается аналогично предыдущему примеру. После получения подсказки, вопреки ожиданиям, вероятность сдачи еще уменьшилась, поскольку  подсказка содержала неверную информацию: p1 = 0,1. Определить количество информации, содержащейся в подсказке, с точки зрения ее целесообразности.

   В соответствии с приведенной формулой имеем: I = log2(0,1/0,2) = log20,5 = -1.

  Таким образом, полученная информация является дезинформацией, поскольку имеет отрицательный знак при измерении.

   Полезность информации

 

  Количество усваиваемой потребителем информации Iусв тесно связано с теми знаниями, которые имеет потребитель к моменту получения информации – с тезаурусом (ТЗ) потребителя. Этим определяется полезность информации. В самом деле, для усвоения тех знаний, которые получаются в  ВУЗе, требуется среднее образование - иначе студент ничего не поймет. С другой стороны, любая учебная дисциплина ориентируется на знания, которые учащийся должен приобрести в предыдущих курсах. Этим объясняется последовательность учебных дисциплин по годам обучения.

   Зависимость усваиваемой потребителем информации от его тезауруса выражается графически следующей кривой:

 

Рисунок 2.2 – Полезность информации

   Как видно из графика, при тезаурусе, равном нулю и максимальному значению в точке max, информация не усваивается: в первом случае, потребителю непонятна принимаемая информация, во втором – она ему уже известна. Максимально усваивается информация (т.е. она наиболее полезна) в точке opt, когда потребитель обладает достаточным (но не максимально возможным) тезаурусом для понимания получаемой информации. При значении тезауруса i-го потребителя ТЗi количество усваиваемой им информации определяется как Iусв = f(ТЗi). Сам тезаурус ТЗi может быть практически определен как результат  интеллектуального тестирования, которое проводится, например, в некоторых западных странах. При таком тестировании человеку выставляется некоторый балл, который и может расцениваться как его ТЗi.

  Истинность информации

   Эта мера оценивает информацию с позиций ее соответствия отображаемому источнику информации, т.е. реальному миру.

   Пусть r(mess) – функция, оценивающая истинность сообщения mess как соответствие его реальному положению вещей: 0 ≤ r(mess) ≤ 1, причем при r(mess) = 1 сообщение истинно, а при r(mess) = 0 сообщение ложно.

  Например, r(«данное пособие посвящено информатике») = 1, r(«данное пособие имеет объем 5 страниц») = 0.

   Оценить истинность сложного сообщения  можно, разбив его на простые. Например, сообщение mess: 

«данное пособие посвящено информатике и имеет объем 5 страниц»        

можно представить как два простых сообщения mess1 и mess2:

mess1 - «данное пособие посвящено информатике»,

mess2 -  «данное пособие имеет объем 5 страниц».        

Тогда можно предложить рассчитывать истинность сложного сообщения как среднее арифметическое значение истинностей сообщений, его составляющих (что называют - «истинно лишь наполовину»). В таком случае имеем:

r(mess) = Ѕ (r(mess1) + r(mess2)) = Ѕ (1 + 0) = 0,5.

   3  Области применения информации

  Все виды деятельности человека по преобразованию природы и общества сопровождались получением новой информации.

   Часть информации, которая занесена на бумажный носитель, получила название документальной информации. Любое производство при функционировании требует перемещения документов, т. е. возникает документооборот. Наряду с научной информацией в сфере техники при решении производственных задач используется техническая информация. Она сопровождает разработку новых изделий, материалов, конструкций, агрегатов, технологических процессов.

   Верхним уровнем информации как результата отражения окружающей действительности (результата мышления) являются знания. Знания возникают как итог теоретической и практической деятельности. Информация в виде знаний отличается высокой структуризацией. Это позволяет выделить полезную информацию при анализе окружающих нас физических, химических и прочих процессов и явлений. На основе структурирования информации формируется информационная модель объекта.

   В теории информации выделяются три основных направления оценки количества информации: структурное (количественное), статистическое (вероятностное), семантическое.

   Структурное - рассматривает дискретное строение массивов информации и их измерение простым подсчетом информационных элементов. (Простейшее кодирование массивов - комбинаторный метод.)

  Статистическое направление оперирует понятием энтропии как меры неопределенности, то есть здесь учитывается вероятность появления тех или иных сообщений.

   Семантическое направление учитывает целесообразность, ценность или существенность информации.

   Эти три направления имеют свои определенные области применения. Структурное используется для оценки возможностей технических средств различных систем переработки информации, независимо от конкретных условий их применения. Статистические оценки применяются при рассмотрении вопросов передачи данных, определении пропускной способности каналов связи. Семантические используются при решении задач построения систем передачи информации, разработки кодирующих устройств и при оценке эффективности различных устройств.

 

 

 

 

 

 

 

Заключение

   Понятие «информация» используется во всех без исключения сферах: философии, естественных и гуманитарных науках, биологии, медицине и физиологии, психологии человека и животных, социологии, искусстве, технике и экономике и в повседневной жизни.    За долгую жизнь значение понятия информации претерпело эволюции, то расширяя, то предельно сужая свои границы. В последние годы ученые решили, что обычное (всеми принятое) значение слова информация слишком эластично, расплывчато, и дали ему такое значение: «мера определенности в сообщении». 
 
   Теорию информации вызвали к жизни потребности практики. Ко второй половине XX века земной шар гудел от передающейся информации, бегущей по телефонным и телеграфным кабелям и радиоканалам, спутниковым средствам связи. И тут сказался двойственный характер информации. При проектировании и эксплуатации средств связи, систем связи, каналов связи конструктору и инженеру недостаточно решить задачу с физических и энергетических позиций. С этих точек зрения система может быть самой совершенной и экономичной. Но важно еще при создании передающих систем обратить внимание на то, какое количество информации пройдет через эту передающую систему. 
  Информацию можно измерить количественно, подсчитать.   Количественный подход - наиболее распространенный и наиболее разработанный. Существуют и другие подходы. Они, в противоположность количественному, стараются ухватить смысл информации, ее ценность, ее качество. 
  В теории информации в настоящее время разрабатывают много систем, подходов, идей. Ученые считают, что к современным направлениям в теории информации добавятся новые, появятся новые идеи. В качестве доказательства правильности своих предположений они приводят «живой», развивающийся характер науки, указывают на то, что теория информации удивительно быстро и прочно внедряется в самые различные области человеческого знания. 
   Многие научные дисциплины используют теорию информации, чтобы подчеркнуть новое направление в старых науках. Так возникли, например, информационная география, информационная экономика, информационное право. Но чрезвычайно большое значение приобрел термин информация в связи с развитием компьютерной техники, автоматизацией умственного труда, развитием новых средств связи и обработки информации и особенно с возникновением информатики. Одной из важнейших задач теории информации является изучение природы и свойств информации, создание методов ее обработки, в частности преобразования самой различной современной информации, с помощью которых происходит автоматизация умственной работы - своеобразное усиление интеллекта, а значит, развитие интеллектуальных ресурсов человека.

 

    Список использованных источников

 

    1. http://marklv.narod.ru/inf/izminf.htm

    2. http://vbvvbv.narod.ru/problemnegentropy/algoritm/index.htm

  3. http://www.ie.tusur.ru/books/COI/page_04.htm

   4. Волькенштейн М.В. Энтропия и информация. – М.: Наука, 1986. – 192 с.

   5. Колмогоров А.Н. Теория информации и теория алгоритмов. – М.: Наука, 1987. – 304 с

   6. http://www.klgtu.ru/ru/students/literature/inf_asu/360.html