1 бит | минимальная единица измерения информации |
1 байт | = 8 битов |
1 Кб (килобайт) | = 210байтов = 1024 байта ≈ 1 тысяча байтов |
1 Мб (мегабайт) | = 210 Кб = 220 байтов ≈ 1 миллион байтов |
1 Гб (гигабайт) | = 210 Мб = 230 байтов ≈ 1 миллиард байтов |
Информационный объем сообщения (информационная емкость сообщения) — количество информации в сообщении, измеренное в битах, байтах или производных единицах (килобайтах, мегабайтах и так далее).
Количество возможных событий и количество информации.
Существует формула, которая связывает между собой количество возможных событий N и количество информации I:
N=2I (1)
По этой формуле можно легко определить количество возможных событий, если известно количество информации.
Количество информации в сообщении (Iс) можно подсчитать, умножив количество информации, которое несет один символ (I), на количество символов (K) в сообщении:
Iс = I × K (2)
Количество информации при вероятностном подходе можно вычислить, пользуясь следующими формулами.
1. Формула Хартли:
Пусть в некотором сообщении содержатся сведения о том, что произошло одно из N равновероятных событий (равновероятность обозначает, что ни одно событие не имеет преимуществ перед другими). Тогда количество информации, заключенное в этом сообщении, — i битов и число N связаны формулой:
N = 2I или I = log2 N, (3)
где N — количество равновероятных событий (число возможных выборов), I — количество информации.
— логарифм N по основанию 2. Если N равно целой степени двойки (2, 4, 8, 16 и т. д.), то такое уравнение можно решить «в уме». В противном случае количество информации становится нецелой величиной, и для решения задачи придется воспользоваться таблицей логарифмов, которая приведена в Приложении 1.
2. Модифицированная формула Хартли:
I = - log 2 (1/p) = log 2 p, (4)
где р — вероятность наступления каждого из N возможных равновероятных событий.
3. Формула Шеннона:
,
где pi — вероятность появления в сообщении i-го символа алфавита;
— количество информации, которую несёт появление в тексте i-го символа алфавита;
H — среднее значение количества информации, приходящееся на один символ алфавита.
Часть 1. Алфавитный подход к измерению количества информации.
Основные задания
Задание1.
Определите, какое из сообщений содержит для вас информацию.
— Площадь Тихого океана — 179 млн кв. км.
— Москва — столица России.
— Вчера весь день шел дождь.
— Завтра ожидается солнечная погода.
— Дивергенция однородного векторного поля равна нулю.
— Dog — собака (по-английски).
— Ro do, may si, lot do may.
— 2*2=4.
Задание 2.
Дайте следующим сообщениям оценки «важная», «полезная», «безразличная», «вредная» информация.
— Сейчас идет дождь.
— Занятия факультатива по информатике проводятся каждый вторник.
— IВМ — это первые буквы английских слов, которые звучат как «интернешнел бизнес мэшинз», что по-русски означает «машины для международного бизнеса».
— Завтра будет контрольная работа по химии.
— Чтобы родители не узнали про двойку, надо вырвать страницу из дневника.
— Лед — это твердое состояние воды.
— Первым человеком, полетевшим в космос, был Юрий Гагарин.
— Номер телефона скорой помощи 02.
Задание 3.
«Вы выходите на следующей остановке?» — спросили человека в автобусе. «Нет», — ответил он. Сколько информации содержит ответ?
Задание 4.
Какой объем информации содержит сообщение, уменьшающее неопределенность знания в 4 раза?
Задание 5.
Вы подошли к светофору, когда горел желтый свет. После этого загорелся зеленый. Какое количество информации вы при этом получили?
Задание 6.
Вы подошли к светофору, когда горел красный свет. После этого загорелся желтый свет. Сколько информации вы при этом получили?
Задание 7.
В корзине лежат 8 шаров. Все шары разного цвета. Сколько информации несет сообщение о том, что из корзины достали красный шар?
Задание 8.
Была получена телеграмма: «Встречайте, вагон 7». Известно, что в составе поезда 16 вагонов. Какое количество информации было получено?
Задание 9.
В школьной библиотеке 16 стеллажей с книгами. На каждом стеллаже 8 полок. Библиотекарь сообщил Пете, что нужная ему книга находится на пятом стеллаже на третьей сверху полке. Какое количество информации библиотекарь передал Пете?
Задание 10.
При угадывании целого числа в диапазоне от 1 до N было получено 7 битов информации. Чему равно N?
Задание 11.
При угадывании целого числа в некотором диапазоне было получено 6 битов информации. Сколько чисел содержит этот диапазон?
Задание 12.
Открыть в редакторе Microsoft Word произвольный текстовый файл (без графических элементов), определить количество символов в этом файле, включая пробелы, и вычислить количество информации в этом файле.
Для тех, кто пользуется версией Microsoft Office Word 2007 или 2010 необходимо щелкнуть мышкой на «Число слов», в нижнем левом углу окна программы.
В результате этого откроется окошечко «Статистика», где указано число страниц, слов, знаков, абзацев, строк.
Задание 13.
Сообщение о том, что ваш друг живет на 10 этаже, несет 4 бита информации. Сколько этажей в доме?
Задание 14.
Сообщение о том, что Петя живет во втором подъезде, несет 3 бита информации. Сколько подъездов в доме?
Задание 15
Измерьте информационный объем сообщения «Ура! Закончились каникулы!!» Выразите этот объем в битах, байтах, килобайтах.
Дополнительные задания
Задание 16
Измерьте примерную информационную емкость 1 страницы учебника; всего учебника.
Подсказка. Подсчитайте, сколько символов в одной строке и сколько строк на странице, и перемножьте полученные числа. Сколько таких учебников может поместиться на дискете емкостью 360 Кб; 1,44 Мб; на винчестере ёмкостью 420 Мб; 6,4 Гб?
Задание 17
Шарик находится в одном из 64 ящичков. Сколько единиц информации будет содержать сообщение о том, где находится шарик?