Драконы Эдема - Карл Саган

Испанский нейрофизиолог Хосе Дельгадо построил действующий контур обратной связи, в который были включены электроды, вживленные в головной мозг шимпанзе, и находившаяся на некотором отдалении электронная вычислительная машина. Сигналы от мозга к ЭВМ и обратно передавались по радио. Сейчас миниатюризация электронных компьютеров достигла такого состояния, когда подобная обратная связь осуществима и без всякого радио — компьютер можно разместить на теле шимпанзе. Не составляет труда создать устройство с подобного рода обратной связью, которое будет распознавать сигналы о приближающемся эпилептическом приступе и автоматически посылать электрические импульсы в соответствующие центры мозга, чтобы предупредить или ослабить приступ. Пока такое устройство невозможно сделать абсолютно надежным, но недалеко то время, когда эта проблема будет решена.

Вероятно, однажды станет возможным дополнить мозг большим числом «умных» устройств, облегчающих процесс познания, — своего рода очками для разума. Это будет в духе прошлого эволюционного увеличения мозга, и такой процесс, наверное, удастся организовать значительно проще, чем переделать существующий мозг. Возможно, мы научимся хирургическим путем вживлять в мозг маленькие сменные компьютерные модули или радиотерминалы, которые дадут нам возможность быстро и успешно выучить язык басков, урду, амхарский, айну, албанский, хопи, или язык дельфинов, или численные значения гамма-функции и полиномов Чебышева, или язык следов зверей, или все известные юристам прецеденты владения плавающими островами, или установить, хотя бы временный, радиотелепатический контакт между несколькими людьми в форме симбиотической связи, ранее неизвестной нашему виду.

Между тем вполне реальные способы расширить возможности мозга, особенно те, что связаны с истинно человеческой деятельностью неокортекса, существуют уже сегодня. Некоторые из них столь стары, что мы успели забыть о них. Обучение детей в условиях, когда на них не оказывается никакого давления, дает в наши руки чрезвычайно многообещающий и удобный инструмент образования. Письменность — это замечательное изобретение, которое, по существу, представляет собой простую машину для хранения и извлечения весьма разнообразной информации. Количество информации, хранящейся в большой библиотеке, намного превосходит количество информации, содержащейся в геноме человека или в его мозге. Такая информация, конечно, не хранится столь эффективно, как в биологических системах, но она все-таки находится в компактной, удобной для использования форме, а создание микрофильмов, микрофишей и тому подобной техники намного увеличило возможности человечества хранить информацию внесоматическим способом, то есть вне организма человека. Количеству битов информации, содержащихся в наших библиотеках, произведениях искусства и других культурных ценностях, соответствует точка, которая на диаграмме, помещенной на рис. 1, оказалась бы расположенной очень далеко за правым полем страницы.

Однако письменность — это очень простое изобретение. Куда более сложная и многообещающая система хранения и извлечения внесоматической информации заключена в электронном компьютере. Для того чтобы представить нынешний уровень развития компьютеров и написанных для них программ, можно сказать, что сегодня они превосходно играют в крестики-нолики, на уровне лучших мастеров мирового класса — в шашки и достаточно хорошо — в шахматы, а кроме того, являются вполне сносными практикующими психотерапевтами. Сейчас существует компьютерная система, которая способна, прослушав исполнение классической или любой иной мелодии, записать ее с помощью общепринятой музыкальной нотации. Количество хранимой информации и скорость, с которой она обрабатывается компьютером, поистине удивительны.

Программа недирективной психотерапии, разработанная Джозефом Вайзенбаумом из Массачусетского технологического института, являет собой хороший пример пригодности компьютерных программ в области психотерапии. (Между прочим, эта программа далеко не самая сложная и объемная из ныне существующих.) После того как эта психотерапевтическая программа была создана, врачу-психиатру было предложено общаться с ней с помощью клавиатуры входного устройства компьютера.

Это общение первоначально задумывалось как имеющее чисто эвристический смысл, но оно вполне может выйти из-под контроля — во всяком случае, со стороны человека. Разговор начинает и ведет психиатр (человек, а не программа):

Доктор, у меня ужасная новость

Вы говорите, у вас ужасная новость

Да, в Массачусетском технологическом институте создана программа, которая погубит нас

Почему вы так считаете

Я видел, как она работает

Вы говорите, что видели, как она работает

Посмотрели бы вы, какое это страшное зрелище, - вам надо увидеть это

Вы думаете, я должна увидеть это

Вы кажетесь мне удрученной

В вашем воображении, вероятно, мы оба кажемся друг другу удрученными

Да, вероятно

Я понимаю

Я тоже

Вы говорите, что вы тоже понимаете

Мы оба в одинаковом положении по отношению к этому компьютеру

Не лучше ли нам продолжить разговор о вас

Вы успокаиваете меня

Почему вы думаете, что я успокаиваю вас

В такое-то время вы хотите говорить обо мне

Почему вы думаете, что я хочу говорить о вас

Потому что вы разделяете мои чувства относительно этого проклятого компьютера

Какой вывод вы делаете из этого

Разумеется, что вы тоже ненавидите компьютеры

Вы думаете, что я тоже ненавижу компьютеры

А почему бы и нет, разве в них есть что-нибудь человеческое

Быть может, именно это нам и надо выяснить

Например, ни один компьютер не может разговаривать так, как вы

О

Я не могу понять, как это кого-то может одурачить простая машина

Вы в самом деле не можете

Да, ведь в конце концов в программе компьютера нет ничего творческого

Вы мне возражаете

Я убежден, что я прав

Вас беспокоит то, что вы уверены, что вы правы

Нет, нисколько, ни в малейшей степени Вы мне возражаете

Но ведь вы сказали, что согласны со мной

Разве это то, что вы от меня слышали

Почему вы не попробуете разубедить меня в том, что все, что умеют делать компьютеры, — это перемалывать цифры

Вы хотите, чтобы я попыталась переубедить вас

Но вы не можете сделать этого

Вы думаете, что я не могу сделать этого

Ну вот, например, может ли компьютер в такой беседе, как у нас с вами, предложить новую тему

Вы почему-то совершенно избегаете разговоров о своих родителях

Точно так же, как и вы сами

Вы думаете, что и я избегаю таких разговоров

Да, и в этом как раз видна разница между человеком и компьютером

Понимаю

Этому машинному психиатру не достает человеческой тонкости, знаний и интуиции, он всего лишь механическое (разумеется!) устройство, лишенное гибкости и относительно нечувствительное к эмоциональным оттенкам и всему, что не выражается словесно. И тем не менее он ведет беседу куда разумнее, чем многие. Поражает его реакция на реплику о «новой теме». Впрочем, скорее всего, она объясняется лишь счастливой случайностью. Машина запрограммирована таким образом, что она следит за частотой появления таких слов, как «мать», «отец», «родители» и им подобных, и если по компьютерным часам прошло заданное время, а ни одно из этих слов ни разу не было употреблено, то программа побуждает машину напечатать: «Вы почему-то совершенно избегаете...» Но, появившись именно в данном месте беседы, ремарка эта производит странное впечатление: как будто машина способна испытывать озарения.

Но в чем еще состоит психотерапия, как не в умении, требующем глубоких знаний и крайне непростом -грамотно реагировать на различные человеческие ситуации? И не запрограммирован ли психиатр таким образом, чтобы давать подобные реакции? Недирективная психотерапия основывается на весьма простых программах, а для возникновения озарений нужна программа, лишь немного более сложная. Эти слова никоим образом не имеют своей целью развенчать профессию психиатра, они несут в себе только благую весть о том, что грядет машинный разум. ЭВМ пока еще далеко не достигли той степени развития, чтобы можно было рекомендовать широкое распространение компьютерной психотерапии. Но надежда когда-нибудь создать чрезвычайно терпеливых, доступных и компетентных хотя бы в некоторых вопросах компьютерных врачей не кажется мне тщетной. Некоторые из уже существующих машинных программ заслужили высокую оценку больных, поскольку такой врач полностью лишен каких-либо пристрастий и всегда готов тратить сколько угодно времени на своего пациента.

В Соединенных Штатах сейчас создаются компьютеры, которые будут способны обнаруживать неисправности в своей собственной конструкции и определять их причину. После того как будут найдены систематические ошибки в работе машины, вышедшие из строя элементы ее автоматически заменяются либо выключаются из схемы. Ремонт будет осуществляться за счет заложенного в схему резерва, эффективность ремонта станет проверяться с помощью регулярно прогоняемых тестовых программ, а результат выполнения каждой из них известен заранее. Существуют уже программы — например, для компьютеров, играющих в шахматы, — которые могут учиться на собственном опыте или же усваивать опыт, накопленный другими компьютерами. Вычислительные машины с каждым днем выглядят все более умными. А поскольку управляемые программы становятся настолько сложными, что даже их создателю не по силам сразу же предугадать все возможные реакции машины, возникает ощущение, будто у компьютеров есть если не разум, то хотя бы свобода воли. Даже бортовая ЭВМ «Викингов», имеющая память всего только в 18 000 слов, уже находится на этом уровне сложности: нам не во всех случаях дано знать, как именно поступит она, получив данную команду. Если бы мы знали это, то могли бы сказать, что она «только» или «просто» машина. Но поскольку мы этого не знаем, то невольно начинаем подозревать у нее настоящий разум.