Доказательство бесполезности информации в числе пи

[catpad]

Ещё раз к вопросу о бесконечной информации, содержащейся в числе пи.

Я понял, как опровергнуть это предположение. Нужен просто улучшенный вариант демона Максвелла.
Оригинальный демон сидит на ящике с молекулами газа и отделяет быстрые молекулы от медленных, уменьшая энтропию системы.
Наш демон будет очень быстро ехать вдоль бесконечного разложения числа пи с двумя папками - в одну он будет складывать ложные факты и просто бессмысленные предложения (это будет очень пухлая папка), в другую - истинные факты. Например, предложение "фвдрфщарвыадлозщшоыа" и предложение "Бастилия была взята 14 июля 1790 года" пойдут в папку с мусором, а предложение "Бастилия была взята 14 июля 1789 года" пойдёт в папку с истинными фактами. По тому же принципу полный текст романа "Дон Кихот" только без первой буквы пойдёт в папку с мусором, а тот же текст с первой буквой - в папку с фактами. И так далее.

Таким образом, точно так же как демон Максвелла уменьшает термодинамическую энтропию ящика с газом, наш демон будет уменьшать информационную энтропию разложения числа пи (по причине того, что он будет увеличивать информацию в папке с истинными фактами).

Но если всё это так, то и доказательства невозможности демонов одинаковы. Как известно, доказательство с демоном Максвелла говорит о том, что в некоторый момент времени демону понадобится дополнительная память для того, чтобы хранить информацию о состоянии молекул. А так как запасы памяти не бесконечны, то демону придётся стирать старую информацию, чтобы хранить новую. Но в соответствии с принципом Ландауэра стирание информации - процесс необратимый, который увеличивает энтропию окружающей среды. Поэтому демон Максвелла на самом деле энтропию в ящике уменьшить не может, не увеличив её снаружи.

Тот же самый принцип можно применить и к нашему демону. Для того, чтобы отсортировывать истинные факты, демон должен эти факты знать, то есть хранить их в своей памяти. Но так как рано или поздно его памяти на все факты не хватит (потому что число фактов, очевидно, превышает число атомов во Вселенной), то ему придётся уже отобранные факты из своей памяти стирать. А тогда он будет увеличивать энтропию окружающей среды ровно на столько же, насколько он будет увеличивать информацию в истинной папке. Поэтому такой демон невозможен, а число пи, хоть и содержит (теоретически) всю на свете информацию, пользы никакой принести не может.
QED.

Comments

[anonym-mouse.livejournal.com]

Это интересное упражнение по схоластике; однако оно неверно в принципе, т.к. применяет неприменимые к предмету разговора концепции.

Это очень частая ошибка "доказательств" и "математических рассуждений":
- шаг 1. Выделим в исходной задаче entities, прикинем, как они друг с другом связаны, создадим МОДЕЛЬ, которая всегда отбрасывает куски свойств и упрощает.
- шаг 2. свяжем с моделью математические описания. Затем, "забыв" про ограничения введенной модели, начнем манипулировать всеми наработанными математическими концепциями СХОЛАСТИЧЕСКИ, без разбора, так, словно они автоматически употребимы (в этом главная ошибка)
- шаг 3. получив бессмыссленные, парадоксальные, или неинтерпретируемые в терминах первоначальной задачи ответы, радостно кричим о "доказательстве", "парадоксе" или выдумываем схоластическую "интерпретацию".


(а) Концепция "информации" не есть независимая объективная мера.
Допустим, вы 20 лет работаете в замысловатой области и знаете устройство неочевидного эксперимента. Для вас сообщение "да" или "нет" (1 бит информации) будет нести ровно столько же, сколько сотни мегабайт для австралийского аборигена, причем он её вряд ли сможет усвоить.
Другими словами, "информация", "информационная энтропия" и проч. зависят принципиально от свойств получателей.

(б) Вы совершаете ход "по аналогии", т.е. бездоказательный, потому что для вашего уха созвучны "энтропия" в термодинамике и "информационная энтропия", их принято считать "одним и тем же".

(в) Вы в рассуждении употребляете неопределенные или бессмыссленные entities, вроде:
"число фактов превышает число атомов Вселенной", что в контексте оригинальной задачи ни туда ни сюда

Или "демон" (устройство), которого не может быть, потому что для того чтобы он был, его надо создать - а он у вас не того сорта, что генерирует выборы из конечного лаконичного алгоритма, он сам должен быть равным всему миру (точнее, сумме всех фактов мира, а поскольку "факт" невозможен без введения "человеческого разума" то САМА КОНЦЕПЦИЯ ВЫРОЖДЕНА)


Я не прочь побаловаться с подобными рассуждениями, да, но надо четко понимать, что они "не настоящие", это подсчет числа чертей на кончике иглы.

Наличие подобных рассуждений - то, что отличает "теоретическую физику" от физики, изучающей свойства реального мира

[catpad.livejournal.com]

Я в принципе, конечно, согласен, что такого рода доказательства - чистая схоластика. Да я и не выдаю это за что-то другое.
Но не могу согласиться со всем, что у вас тут написано. Например: "Для вас сообщение "да" или "нет" (1 бит информации) будет нести ровно столько же, сколько сотни мегабайт для австралийского аборигена". Это не так, потому что вы забываете о тех сотнях мегабайт информации, которые уже у меня в голове. И количество этой информации в точности, до вот этого самого последнего бита равно той информации, которую нужно будет получить аборигену. А усвоит он её или нет - это вообще абсолютно никакого отношения к вопросу о количестве информации не имеет. Всё равно, что я передам по кабелю целую телевизионную передачу, а кабель этот не подключён к телевизору - разве от этого я передал меньшее количество информации ?

В примере с демоном я пользуюсь только и исключительно количественной мерой. Разум демона не имеет никакого значения - он просто сравнивает строки со своей внутренней памятью. Собственно говоря, запрограммировать такого демона я могу прямо сейчас, не сходя с места. И демон этот будет оперировать с неким игрушечнам набором фактов (строк), который я ему задам, и он послушно побежит вдоль некоего подмножества числа пи. При этом, когда память кончится, я начну стирать некоторые начальные факты, и этот процесс перейдёт в тепло процессора - вот вам и связь между термодинамической и информационной энтропией (эту связь не я придумал, и я также не думаю, что вы вправе её отрицать - слишком уж всё это давно до нас разработано гораздо более компетентными людьми). Собственно, из-за принципа Ландауэра я и совершаю ход "по аналогии". Конечно, если вы этот принцип не приемлете, убедить вас я не могу.

И вообще, разве "теоретическая физика" не изучает свойства реального мира ?

[satangel.livejournal.com]

"разум демона" вполне реализован в любой машине пролога

Вырожденность концепции

[anonym-mouse.livejournal.com]

Для создания "демона" нужно полное собрание всех фактов вселенной.
(а) это предполагает существование человеческого разума, который их будет собирать
(б) собрание принципиально субъективно, для разных собирателей множества не совпадают
(в) предполагается, что разум (или их сумма, которая всегда конечна) способен охватить бесконечное число фактов
(г) Познание принципиально НЕисчерпывающе: по-видимому в любой данный момент времени мы знаем лишь ограниченное число "фактов". По крайней мере это верно "до сих пор"

(д) не говоря уж об очень известном результате, что даже если мы будем вычленять элементарные факты с помощью логических систем, то любая "достаточно сложная" никогда не может сама по себе описать все возможные высказывания в данной системе и т.д., вы слышали про Гёделя.

т.е. выдуманный образ демона манипулирующего копилкой фактов - ВЫРОЖДЕННАЯ концепция, т.к. ЭТО НЕВОЗМОЖНО никак осуществить практически.

И при чем здесь машины пролога?

Re: Вырожденность концепции

[satangel.livejournal.com]

насколько я помню институтский курс, машина пролога работает с предикатами и правилами

поэтому демона писать не нужно - нужно пролог-машине скормить факты (предикаты) и задать правила для поведения

нерешаемая в принципе задача

[anonym-mouse.livejournal.com]

вы снова не въехали.

Чтобы знать "факты", которые надо скармливать, надо заранее решить НЕРЕШАЕМУЮ в принципе задачу:

(а) список фактов непостижим в каждый данный момент времени "просто сбором"
(б) Никакая попытка описания с помощью логической системы не может охватить "всех" истинных "фактов" вследствие теорем Гёделя.

Другими словами, решение задачи основано на том, что решена задача-предпосылка, которая нерешаема в принципе

чтоб это доказать осталось поймать демона за хвост

[satangel.livejournal.com]

прямой вариант ответа:
мой комментарий касался избыточности необходимости написания демона - и того, что он уже написан

шутливый вариант ответа:
вы все еще верите в джинов и демонов?
а я к моему глубокому сожалению, в сказки уже не верю - так что задача нерешаема в принципе по определению "демонов нет!"

занудный вариант ответа:
теорема Гёделя показывает принципиальную ограниченность любой достаточно богатой системы, что отнють не отменяет исходных постулатов - возможность влияния этой ограниченности на решение задачи отнють не означает неизбежность такового влияния
и далее при копании совочком в песочнице мы неизменно сталкнемся с парадоксами типа кота ШрЁдингера - когда за демоном придется еще и присматривать

вообще, как в свое время тонко подметил Гинсбург со ссылкой на Френберга, "идеализм, и в частности солипсизм нельзя опровергнуть чисто логическими рассуждениями - для выбора между материалистической и идеалистической точками зрения необходимо опираться еще и на интуитивное суждение (усмотрение)"

Re: чтоб это доказать осталось поймать демона за хвост

[catpad.livejournal.com]

Нет, ты не понял. Мой демон просто сравнивает строки, он не делает выводов. Пролог здесь ни к чему.

Re: чтоб это доказать осталось поймать демона за хвост

[satangel.livejournal.com]

а какие выводы может делать пролог? особенно если ему задать правило типа "сравнить строку" "если истинная то выдернуть" - как любой язык он не делает больше чем от него требуют

и делать их некогда, успеть бы строки выдернуть

Re: чтоб это доказать осталось поймать демона за хвост

[catpad.livejournal.com]

Что значит, какие выводы ? Например, вот такие (классический пример):

- дед(А,В) если отец(А,Х) и отец(Х,В).
- отец(abraham,isaac).
- отец(isaac,jacob).

- дед(abraham,jacob) ? - Да, - отвечает Пролог.
- дед(abraham,rachel) ? - Нет, - отвечает Пролог.

Вот такие выводы.

Re: чтоб это доказать осталось поймать демона за хвост

[satangel.livejournal.com]

это все пролог умеет
но этим можно и не пользоваться

как говорится, и академики могут перебирать картошку - нужно лишь правильно организовать производственный процесс

[yatur.livejournal.com]

> Для вас сообщение "да" или "нет" (1 бит информации) будет
> нести ровно столько же, сколько сотни мегабайт для австралийского аборигена

Не надо обижать австралийских аборигенов. Среди них есть немало тех, кто умеет пользоваться компьютером (спасибо белым колонизаторам :-)) Правильное слово в данном контексте - папуасы. :-)

[defarmer.livejournal.com]

Берусь запихать такое-же количество информации в конечное число. А именно, берем цифровое представление экрана компьютера (область видеопамяти) как двоичное число. Обнуляем. Прибавляем единицу, выводим на экран. Операцию повторить до появления единиц во всех разрядах. В промежутке имеем всю вышеперичисленную информацию выведенную на экран на всех возможных языках + все возможные картинки и т.п. + много "шума". Но это издержки метода.

[defarmer.livejournal.com]

В принципе, даже графический экран не понадобится. Можно брутфорсить видеопамять текстового монохромного терминала 25х80 а набор возможных значений каждой ячейки ограничить символами английского алфавита+пробел+знаки препинания.
ЗЫ демон тут тоже понадобится, но вместо демона можно посадить каскад молодых ученых-практиков, которые замечательно рассортируют все факты...

[catpad.livejournal.com]

Ну да, это всё уже обсуждалось в комментариях к посту, на который у меня тут ссылка.

[simonff.livejournal.com]

Если бы демон мог устанавливать истинность хотя бы одного факта за раз, ему бы уже цены не было. Только чем сложнее утверждение, тем больше уточнений терминов он начнет требовать, и в конце концов все равно памяти не хватит. Например, "Рим пал из-за набегов варваров" - факт или нет?

[catpad.livejournal.com]

Да, это верно. Но для простоты можно ограничиться только точными фактами, сформулированными на каком-то формальном языке. Например, 1+1=2, причём сумма не должна превышать некоего числа. Тогда всё достаточно просто.

[yatur.livejournal.com]

> Но для простоты можно ограничиться только точными фактами,
> сформулированными на каком-то формальном языке

И вот тут-то к демону сзади тихонечко подкрадется Гильберт и что-то шепнет ему на ушко, отчего демон вдруг изменится в лице, достанет из сумки с фактами нож и сделает себе харакири.

[yatur.livejournal.com]

Ах да, не Гильберт, Гёдель. Я ведь чувствовал что с фамилией что-то не то... Спасибо за подсказку anonym_mouse

Политическая провокация

[yatur.livejournal.com]

А вот если б Ландауэр жил в Эстонии он, скорее всего, не смог бы уехать в Штаты, и его бы замочили эстонские эсэсовцы в 1941-м году. И никакого принципа не было бы :-(

Re: Политическая провокация

[yatur.livejournal.com]

Впрочем, есть вероятность, что Ландауэра до прихода немцев выслали бы в Сибирь злые оккупанты. Тогда у принципа снова появился бы шанс.

Re: Политическая провокация

[catpad.livejournal.com]

Давайте не будем флудить, хорошо ?

Re: Политическая провокация

[yatur.livejournal.com]

Каюсь, я не очень силен в новоязе. "Флудить" - это в смысле слишком много писать? Или заниматься политическими провокациями?

P.S. Клятвенно обещаю не цыкать зубом :-)

Re: Политическая провокация

[catpad.livejournal.com]

У меня это значит писать много, не по делу и не смешно. Извините, если что.

Re: Политическая провокация

[yatur.livejournal.com]

Все в мире взаимосвязано.
Этот самый Ландауэр был еврей и в свое время мальчиком бежал от фашистов из Германии.

[anonym-mouse.livejournal.com]

Я бы пожалуй ответил на вопрос о бесконечности информации в числе "пи" так:

(1) если верна гипотеза (неочевидная и недоказанная) о виде распределения цифр в записи заданного иррационального числа (например, пи), то ПОСТ-ФАКТУМ, т.е. заранее зная, что ищешь, любую заданную конечную последовательность, кодированную цифрами, удастся поставить в соответствие какому-то подмножеству в записи числа.

(2) Это нельзя называть "бесконечной информацией в числе пи" потому что не зная заранее, что ищешь (анте-фактум?) скорее всего не найдешь, ибо медленное вычитывание человеком(ами) сделает поиск осмысленных отрывков таким медленным, что он станет практически невозможен

(3) даже пост-фактум время практически осуществимого автоматического поиска может оказаться "практически бесконечным", т.е. недостижимым физически в силу свойств бесконечной последовательности

(4) И, наконец, главная гипотеза, что любые наперед выдуманные последовательности цифр, обязательно встретятся в бесконечной записи иррационального числа, сильно неочевидна, нотя я видел ссылки на тему "нормальных чисел" из предыдущей заметки.

Другими словами, даже формально присутствуя, "информация" может быть (а) недоступна или (б) задача может оказаться тавтологична лишь подтверждая что уже известное можно найти (да и то с практическими проблемами извлечения).

Другими словами, если не терять связи с реальностью, представление о "бесконечной информации", завлекающая возможностью именно поиска неизвестной информации, оказывается ложным

[anonym-mouse.livejournal.com]

представление о "бесконечной информации", оказывается ложным -- все сводится к вульгарной возможности соответствия (отображения, mapping) между заранее заданной конечной последовательностью и неким упорядоченным множеством из бесконечного числа элементов.
Никакого нового знания возможность отображения принести не способно