Игра разума. Как Клод Шеннон изобрел информационный век - Сони Джимми

Работа «Математическая теория связи» наглядно показала, что Шеннон выделил самые острые вопросы, которыми занимались пионеры информационной теории. Но если Найквист использовал расплывчатое понятие «данные», а Хартли пытался объяснить важность отбрасывания психологических и семантических аспектов, Шеннон уже принимал как должное то, что значение можно игнорировать. Точно так же он с готовностью принял тот постулат, что информация измеряет свободу выбора: содержательными сообщения становятся тогда, когда «их выбирают из ряда возможных сообщений». Наше непосредственное восприятие было бы удовлетворено, признавал он, если бы мы условились, что объем информации на двух перфокартах удваивался бы (а не возводился бы в квадрат) по сравнению с объемом информации на одной карте или что два электронных канала связи передавали бы в два раза больше информации, чем один.

Это было то, что Шеннон обязан был сделать. Дальше он демонстрировал свою целеустремленность. Каждая система связи – не только те, что существовали в 1948 году и были сделаны руками человека, но каждая возможная система, – могла быть сжата до максимально простой сути.

♦ Источник информации производит сообщение.

♦ Передающее устройство кодирует сообщение так, чтобы оно могло быть отправлено в виде сигнала.

♦ Канал связи – это среда, по которой проходит сигнал.

♦ Источник шума – это искажения и нарушения сигнала на пути к приемному устройству.

♦ Приемное устройство расшифровывает сообщение.

♦ Пункт назначения – это принимающая сторона.

Красота этой упрощенной модели заключается в том, что она универсальна. Это то, что происходит с любым сообщением – сообщениями, которыми обмениваются люди, сообщениями в цепи, нейронах, крови. Вы говорите в телефонную трубку (источник), и телефон кодирует звук вашего голоса в электрический сигнал (передающее устройство). Сигнал идет по проводу (канал); сигнал, идущий по соседнему проводу, взаимодействует с ним (шум); затем сигнал раскодируется обратно в звук (приемное устройство), и звук достигает уха на другом конце провода (пункт назначения).

В одной из ваших клеток цепочка вашего ДНК содержит сигнал строить белок (источник); сигнал кодируется в цепочке мессенджера РНК (передающее устройство); мессенджер РНК переносит код в места синтеза белка (канал); одна из «букв» в коде РНК произвольно переключается в «точечную мутацию» (шум). Каждый трехбуквенный код передается в аминокислоту, строительный материал белка (приемное устройство); аминокислоты связываются в протеиновую цепочку, а это значит, что сигналы ДНК дошли до цели. Военное время. Командование союзных войск планирует нападение на вражеские берега (источник); офицеры штаба на основе этого плана издают письменный приказ (передающее устройство); копии приказа отправляются на передовые – по радио, курьером или почтовым голубем (канал); командование намеренно зашифровывает послание так, словно оно состоит из случайно подобранных символов (своеобразный искусственный «шум»). Одна копия поступает к союзникам на передовой, которые расшифровывают ее с помощью ключа и строят план сражения, а другая копия перехватывается врагом, чьи шифровальщики сами взламывают код (приемное устройство), и тогда приказ, изданный командованием и перехваченный врагом, превращается в стратегию и контрстратегию будущего сражения (пункт назначения).

Эти шесть блоков настолько гибки, что работали даже применительно к тем сообщениям, о которых мир еще не догадывался, но для которых Шеннон уже готовил почву. Они представляют собой человеческие голоса, которые в виде электромагнитных волн отталкиваются от ретрансляторов, и бесконечный цифровой поток Интернета. Точно так же они подходят и для кодов, записанных в ДНК. И хотя молекулу ДНК открыли лишь пять лет спустя, Шеннон, бесспорно, был первым, кто осознал, что наши гены являются носителями информации. Этот прорыв в мышлении стер границу между механическими, электронными и биологическими сообщениями.

И хотя молекулу ДНК открыли лишь пять лет спустя, Шеннон, бесспорно, был первым, кто осознал, что наши гены являются носителями информации.

Разбив процесс связи на такие универсальные шаги, Шеннон смог сфокусировать свое внимание на каждом шаге в отдельности и поразмышлять над тем, что мы делаем, когда выбираем сообщение в источнике, или о том, как можно эффективно бороться с шумом в канале связи. Представление о передающем устройстве как об отдельном понятийном блоке сыграло ключевую роль. Как мы увидим, работа Шеннона, связанная с шифрованием сообщений, оказалась решающей в достижении этого революционного результата. Если вспомнить о том, что интеллект Шеннона зачастую работал на пределе возможностей при наличии несовместимых аналогий (как в случае с булевой логикой и коробкой с переключателями), можно представить, как эта универсальная структура способна послужить средством поиска новых интересных аналогий.

И все же Шеннон в первую очередь осознавал, что наука об информации пока еще не могла точно определить самое существенное, а именно вероятностную природу информации. Когда Найквист и Хартли определили ее как выбор из набора символов, они исходили из допущения, что каждый такой выбор будет одинаково вероятным и независимым от всех символов, выбранных ранее. Да, действительно, подчеркивал Шеннон, какой-то выбор происходит именно так. Но не каждый. Мы можем начать с того, объяснял он позднее, что зададим вопрос, «каков будет самый простой источник или самая простая вещь, которую вы пытаетесь отправить»: «И здесь я бы бросил монету». Обычно монета имеет шансы 50 на 50 приземлиться орлом или решкой. Этот самый простой выбор – орел или решка, да или нет, 1 или 0 – самое базовое сообщение из всех существующих. Это тот тип сообщения, который согласуется с утверждениями Хартли. Он будет базовым параметром для истинной меры информации.

Варианты «бинит» и «биджит» были рассмотрены и отброшены, а победил в итоге вариант, предложенный Джоном Тьюки, профессором Принстонского университета, работавшим в «Лабораториях Белла». Бит.

Новые науки требуют новых единиц измерения – словно бы в доказательство того, что те понятия, о которых много говорили и ходили вокруг да около, наконец-то определили количественно. Новая единица измерения изобретенной Шенноном науки должна была символизировать эту базовую ситуацию выбора. Так как это был выбор из 0 или 1, то это была «двоичная единица». В один из тех редких случаев, когда Шеннону понадобилась помощь в работе над проектом, как-то во время обеденного перерыва он обратился к своим коллегам по «Лабораториям» с просьбой придумать короткое и звучное название этой единице измерения. Варианты «бинит» и «биджит» были рассмотрены и отброшены, а победил в итоге вариант, предложенный Джоном Тьюки, профессором Принстонского университета, работавшим в «Лабораториях Белла». Бит.

Один бит – это количество информации, полученное в результате выбора между двумя одинаково возможными вариантами. Поэтому «прибор с двумя устойчивыми положениями… может хранить один бит информации». «Битность» такого прибора – переключение в два разных положения, монета с двумя сторонами, регистр с двумя положениями – заключена не в исходе выбора, а в количестве возможных выборов и случайностях выбора. Два таких прибора включали бы в себя четыре выбора и хранили бы два бита. Так как Шеннон пользовался логарифмической мерой, количество битов удваивалось каждый раз, когда количество предложенных выборов возводилось в квадрат:

Какой-то выбор осуществляется именно так. Но не всегда выбор определяется монетой. Не все варианты выбора одинаковы. Не все сообщения одинаково вероятны.