Подходы к измерению информации

Измерение информации

Сколько информации в сообщении? В 7 классе мы считали алфавитным подходом. В 10 классе добавим ещё один — содержательный. Разберёмся.

Чему ты научишься. измерять количество информации двумя способами — содержательным и алфавитным — и связывать их формулой N = 2ⁱ.

Содержательный подход

Перед формулой посмотри на маленькие случаи: 1 бит даёт 2 варианта, 2 бита — 4, 3 бита — 8. Каждый новый бит удваивает число вариантов.

КАК РАСТЁТ ЧИСЛО ВАРИАНТОВ
  1 бит  -> 0, 1                 -> 2 варианта
  2 бита -> 00, 01, 10, 11       -> 4 варианта
  3 бита -> 000 ... 111          -> 8 вариантов

Формула: N = 2^i

Содержательный подход: количество информации в сообщении тем больше, чем сильнее оно уменьшает неопределённость. Если событие имело N равновероятных исходов, то сообщение о том, какой наступил, несёт i бит, где N = 2ⁱ. Например, из 8 равновероятных вариантов сообщение несёт 3 бита (2³ = 8).

Алфавитный подход

Алфавитный подход считает объём текста, не вникая в смысл: вес одного символа i связан с мощностью алфавита N формулой N = 2ⁱ, а объём сообщения I = K · i (K — число символов).

ДВА ПОДХОДА К ИЗМЕРЕНИЮ:
  содержательный  — N равновероятных исходов → i бит,   N = 2^i
  алфавитный      — вес символа i, объём текста        I = K · i

Контрольный вопрос. Формула N = 2 в степени i связывает число равновероятных исходов N с количеством информации i, которое измеряется в…

Абитах
Бсимволах
Вбайтах

Подсказка: Базовая единица измерения информации.

Онлайн-проверка ответа появится позже

Контрольный вопрос. Какой подход к измерению информации НЕ вникает в смысл, а считает объём текста?

Аалфавитный
Бсодержательный

Подсказка: По числу и весу символов.

Онлайн-проверка ответа появится позже

Контрольный вопрос. Сколько вариантов даёт 1 бит информации? Впиши число.

Подсказка: 0 или 1 — всего сколько вариантов?

Онлайн-проверка ответа появится позже

Контрольный вопрос. Содержательный подход измеряет, насколько сообщение уменьшает…

Анеопределённость
Бобъём файла
Вскорость

Подсказка: Та же идея, что и в определении информации из прошлого урока.

Онлайн-проверка ответа появится позже

Контрольный вопрос. В формуле I = K·i буква K обозначает число… в сообщении. Впиши слово.

Подсказка: А буква i — вес ОДНОГО такого элемента.

Онлайн-проверка ответа появится позже

Контрольный вопрос. Мощность алфавита N в алфавитном подходе связана с весом одного символа i формулой…

АN = 2 в степени i
БI = K умножить на i
ВN = K плюс i

Подсказка: Та же формула, что и в содержательном подходе — она универсальна.

Онлайн-проверка ответа появится позже

Задание. Событие имело 16 равновероятных исходов. Сколько бит информации несёт сообщение о том, какой из них наступил? Используй N = 2 в степени i. Впиши число.

Подсказка: Подбери i так, чтобы 2 в степени i дало 16.

✅ Готово, если: ты ввёл(а) верный ответ, и онлайн-проверка его приняла.

Онлайн-проверка ответа появится позже

Контрольный вопрос. Сообщение из 200 символов записано алфавитом, где вес символа 5 бит. Чему равен его информационный объём в битах? I = K·i. Впиши число.

Подсказка: Перемножь число символов и вес одного символа.

Онлайн-проверка ответа появится позже

Контрольный вопрос. Событие имело 8 равновероятных исходов. Сколько бит несёт сообщение о том, какой из них наступил? N = 2 в степени i. Впиши число.

Подсказка: Подбери i так, чтобы 2 в степени i дало 8.

Онлайн-проверка ответа появится позже

Задание. Придумай своё событие с РОВНО 32 равновероятными исходами (например, случайная карта из специальной колоды, случайное число от 1 до 32).
1) По формуле N = 2 в степени i посчитай, сколько бит информации несёт сообщение о том, какой исход произошёл.
2) Придумай своё сообщение из 50 символов алфавитом с весом символа 6 бит. Посчитай его информационный объём по формуле I = K·i.
3) Сравни два получившихся числа (биты из пункта 1 и биты из пункта 2) — они про РАЗНЫЕ вещи. Объясни, почему их нельзя напрямую сравнивать.

Подсказка: 32 — это степень двойки; подбери показатель степени.

Онлайн-проверка ответа появится позже

Итог. Количество информации можно посчитать двумя подходами. Содержательный смотрит, насколько сообщение уменьшает неопределённость; алфавитный считает объём текста по мощности алфавита и числу символов.

Что дальше

Информация всегда существует в системах и связях. О системах и информационных связях следующий урок.

Назад  ·  ↑ В начало урока  ·  ⌂ В начало курса  ·  Вперёд →

Школа Виктора Комлева