Тип 1. Измерение информации: формула Хартли

Тип 1 демо-теста. «За круглым столом рассажены четыре человека. Сколько информации несёт сообщение об их рассадке?» Ответ просят в битах, интервалом: «больше 4 и меньше 5 бит». Разберём, откуда берётся такой ответ, и потренируемся.

Что значит «количество информации»

Пока мы не знаем исхода, у события есть неопределённость: вариантов много, какой из них верный — неизвестно. Сообщение снимает эту неопределённость: после него мы точно знаем, что случилось. Количество информации — это мера того, насколько сообщение уменьшило нашу неизвестность. Чем больше равновозможных вариантов оно отсекло, тем больше информации несёт.

Договоримся о простом случае, который и спрашивают на испытании: есть N равновозможных исходов (ни один не вероятнее другого), и сообщение указывает ровно один из них. Тогда количество информации в этом сообщении считают по формуле Хартли.

                 ФОРМУЛА ХАРТЛИ

        I = log₂ N        (I — в битах)

   N — число равновозможных исходов
   I — количество информации в сообщении,
       которое называет один конкретный исход

   Смысл: сколько раз надо вдвое сузить круг
   вариантов, чтобы остался один.

Логарифм по основанию 2 отвечает на вопрос: «в какую степень возвести 2, чтобы получить N?». Если N — точная степень двойки, ответ целый: для N = 8 это 3 бита, потому что 2³ = 8. Если N между двумя степенями двойки, то и ответ между двумя целыми — его и записывают интервалом.

  N   |  I = log₂N  |  ответ в битах
 ─────┼─────────────┼────────────────────────
   2  |    1,00     |  ровно 1
   4  |    2,00     |  ровно 2
   6  |    2,58     |  больше 2 и меньше 3
   8  |    3,00     |  ровно 3
  12  |    3,58     |  больше 3 и меньше 4
  16  |    4,00     |  ровно 4
  24  |    4,58     |  больше 4 и меньше 5
  32  |    5,00     |  ровно 5

  Правило интервала: если 2^k < N < 2^(k+1),
  то k < I < k+1  (ответ между k и k+1 бит).

Как считают N в задачах про рассадку

В демо-задаче люди садятся за стол — значит, сначала надо посчитать, сколькими способами их вообще можно рассадить. Когда мы расставляем несколько разных объектов по разным местам, число способов — это факториал: перемножаем количество мест по убыванию. Для 4 человек на 4 пронумерованных места: на первое место — любой из 4, на второе — любой из оставшихся 3, дальше 2 и 1.

   4 человека на 4 пронумерованных места

   место 1   место 2   место 3   место 4
     4    ×    3     ×    2    ×    1    = 24

   4! = 4·3·2·1 = 24 равновозможные рассадки

         ┌───────── стол ─────────┐
         │   (1)             (2)   │
         │                        │
         │   (4)             (3)   │
         └────────────────────────┘
   Сообщение, называющее одну рассадку из 24,
   несёт I = log₂24 ≈ 4,58 → больше 4 и меньше 5 бит.

Порядок решения такого задания:
1) посчитай число равновозможных исходов N (для рассадки — факториал: 3!=6, 4!=24, 5!=120);
2) подставь в формулу Хартли: I = log₂N;
3) если N — не степень двойки, зажми ответ между двумя ближайшими целыми и запиши интервалом.

Тренировка

Контрольный вопрос. За круглым столом четыре пронумерованных места. За них случайно садятся Аня, Боря, Вера и Гена — все рассадки равновозможны. Пришло сообщение, которое точно называет, кто на каком месте сидит. Сколько информации несёт это сообщение?

Абольше 3 и меньше 4 бит
Ббольше 4 и меньше 5 бит
Вбольше 5 и меньше 6 бит
Гровно 4 бита

Подсказка: Число рассадок N = 4! = 4·3·2·1 = 24. По формуле Хартли I = log₂24. Ближайшие степени двойки: 16 = 2⁴ и 32 = 2⁵, а 16 < 24 < 32, значит 4 < I < 5.

Онлайн-проверка ответа появится позже

Контрольный вопрос. На полку в ряд ставят три разные книги. Все варианты порядка равновозможны. Сообщение точно называет получившийся порядок книг слева направо. Сколько информации оно несёт?

Абольше 1 и меньше 2 бит
Ббольше 2 и меньше 3 бит
Вровно 3 бита
Гбольше 3 и меньше 4 бит

Подсказка: Число порядков N = 3! = 6. I = log₂6. Ближайшие степени двойки: 4 = 2² и 8 = 2³, а 4 < 6 < 8, значит 2 < I < 3.

Онлайн-проверка ответа появится позже

Контрольный вопрос. В соревновании 12 спортсменов, у каждого равные шансы вытянуть жребий на первый старт. Сообщение называет имя того, кто стартует первым. Сколько информации несёт это сообщение?

Абольше 2 и меньше 3 бит
Ббольше 3 и меньше 4 бит
Вбольше 4 и меньше 5 бит
Гровно 4 бита

Подсказка: Здесь равновозможных исходов ровно N = 12 (не факториал — выбираем одного из 12). I = log₂12. Ближайшие степени двойки: 8 = 2³ и 16 = 2⁴, а 8 < 12 < 16, значит 3 < I < 4.

Онлайн-проверка ответа появится позже

Запомни для этого типа.
— Количество информации о выборе одного из N равновозможных исходов: I = log₂N бит.
— N — не степень двойки → ответ интервалом: находишь ближайшие 2^k и 2^(k+1), и k < I < k+1.
— «Рассадка / порядок / расстановка» разных объектов по местам → N = факториал (3! = 6, 4! = 24, 5! = 120).
— «Выбрать одного из N» → N берётся напрямую.

⌂ К списку типов · Тип 2. Системы счисления →

Школа Виктора Комлева