20 львов + 20 львов = ? - Страница 5

Paul Kellerman · 10.04.2025, 16:00

Лучник, таким образом в итоге вы сами пришли к вероятностно-энтропийному измерению количества информации.

Количество информации I = H1 - H2.
Где, H1 - энтропия до получения информации, H2 - после получения информации.

В ситуации да/нет до получения ответа, упрощенно считая оба ответа равновероятными p_да = p_нет = 0.5, имеем априорную энтропию до получения ответа:
H1 = - (0.5*log[2](0.5) + 0.5*log[2](0.5)) = 1.

После получения ответа "да" расклад вероятностей меняется, p_да = 1, а p_ нет = 0. Апостериорная энтропия, после получения ответа "да":
H2 = - (1*log[2](1) + 0*log[2](0)) = 0.

Тогда, количество полученной информации:
I = H1 - H2 = 1 - 0 = 1 бит.

Повторные "да", хоть миллион раз, энтропию уже никак не меняют. И итоговое (суммарное) количество полученной информации так и остается равным 1 бит.

Лучник · 10.04.2025, 17:37

Цитата:

Сообщение от Paul Kellerman

Повторные "да", хоть миллион раз, энтропию уже никак не меняют.

То есть, оба ответа Вы бы восприняли абсолютно одинаково?

Цитата:

Сообщение от Paul Kellerman

Количество информации I = H1 - H2.
Где, H1 - энтропия до получения информации, H2 - после получения информации.

Вот поэтому историки могут заниматься математикой, а математики историей - нет

.

Штука в том, что ответ на сто вопросов о чем бы то ни было заканчивается не после первого ответа, а после сотого.

kravets · 10.04.2025, 18:04

Цитата:

Сообщение от Лучник

математики историей - нет

Фоменко

Лучник · 11.04.2025, 06:10

Цитата:

Сообщение от kravets

Фоменко

Вот его и имел в виду. Он умеет считать, но не умеет переводить феноменальный мир в годный для подсчета дискретный материал.

У меня сложилось впечатление, что математиков этому не учат, ибо со школы они оперируют уже готовыми к подсчету львами.
Или такими львами, которые переводятся в цифры незамысловатым образом.
В сложных случаях ошибается, что характерно, всегда.

kravets · 11.04.2025, 19:17

Цитата:

Сообщение от Лучник

У меня сложилось впечатление, что математиков этому не учат, ибо со школы они оперируют уже готовыми к подсчету львами.

Не совсем так. Я ведь чистый математик по образованию. Мы (они) рассматриваем мир с позиций того, насколько реальность подходит к построенному описанию (модели). Плохо подходит - значит это неправильная реальность

Лучник · 12.04.2025, 15:05

Цитата:

Сообщение от kravets

Плохо подходит - значит это неправильная реальность

С этим тоже сталкивался)) Если распределение Гаусса не работает: значит, тут подделка!

10.04.2025, 16:00	#41
Paul Kellerman Gold Member Регистрация: 25.06.2005 Адрес: F000:FFF0 Сообщений: 1,820	Лучник, таким образом в итоге вы сами пришли к вероятностно-энтропийному измерению количества информации. Количество информации I = H1 - H2. Где, H1 - энтропия до получения информации, H2 - после получения информации. В ситуации да/нет до получения ответа, упрощенно считая оба ответа равновероятными p_да = p_нет = 0.5, имеем априорную энтропию до получения ответа: H1 = - (0.5log[2](0.5) + 0.5log[2](0.5)) = 1. После получения ответа "да" расклад вероятностей меняется, p_да = 1, а p_ нет = 0. Апостериорная энтропия, после получения ответа "да": H2 = - (1log[2](1) + 0log[2](0)) = 0. Тогда, количество полученной информации: I = H1 - H2 = 1 - 0 = 1 бит. Повторные "да", хоть миллион раз, энтропию уже никак не меняют. И итоговое (суммарное) количество полученной информации так и остается равным 1 бит.

Реклама