В поисках признаков интеллектуальной жизни во вселенной
«В поисках признаков интеллектуальной жизни во Вселенной» – название постановки комедийной актрисы Лили Томлин, в которой предметом рассмотрения становятся человеческие слабости и глупости. Название пьесы – это игра слов, основанная на двух значениях слова «интеллект» (англ, intelligence): сообразительность (как в известной шутке: интеллект – это «то, что измеряют с помощью теста на ай-кью») и способность мыслить рационально, как человек. Именно о втором значении интеллекта я и повествую в этой книге.
Пусть дать определение интеллекту не так легко, но мы сразу узнаем интеллект, когда встречаем его. Возможно, прояснить значение этого слова поможет мысленный эксперимент. Представим, что перед нами инопланетное создание, которое по всем параметрам выглядит непохожим на нас. Что ему нужно сделать, чтобы мы поняли, что оно разумно? Конечно, авторы научной фантастики сталкиваются с этой проблемой на каждом шагу; кто лучше них сможет ответить на этот вопрос! Самую удачную характеристику интеллекта, которую мне когда-либо приходилось слышать, дал писатель Дэвид Александр Смит, когда в интервью его спросили: «Каким должен быть хороший пришелец?»
Во-первых, они [пришельцы] должны реагировать на ситуацию разумно, но непонятно – так, чтобы вы, увидев поведение пришельца, сказали: «Я не понимаю правила, которыми этот пришелец руководствуется при принятии решений, но он явно действует рационально, основываясь на некоей совокупности правил»… Второе требование – они должны быть небезразличны к чему-то или кому-то, должны желать чего-то и добиваться этого, не останавливаясь перед лицом трудностей63.
Принимать решения «рационально», руководствуясь совокупностью правил, означает исходить в своих решениях из неких оснований истинности: из соответствия реальности или из логичности вывода. Пришелец, который врезается на пути в деревья, шагает вниз со скалы, делает такие движения, как будто рубит дерево, когда перед ним на самом деле камень или пустое место, едва ли покажется нам разумным. То же самое можно сказать и о пришельце, который, увидев, как в пещеру вошли три хищных зверя, а из пещеры вышли только два, войдет в эту пещеру, как будто она совершенно пуста.
То же можно сказать и о втором критерии: о желании чего-то и о стремлении его получить вопреки трудностям. Если мы не знаем, чего хочет существо, нас нисколько не впечатлит все, что это существо сделает для его достижения. Кто знает, может быть, оно хочет как раз врезаться в деревья или рубить камни, и ему блестяще удается то, чего оно хочет. Более того, без указания целей существа сама идея разумности будет лишена смысла. Тогда можно вручить премию за интеллект мухомору, который с такой прицельной точностью и несгибаемым упорством выполняет сложнейшую задачу: сидит всю жизнь ровно на одном и том же месте. И тогда ничто не мешает нам согласиться с утверждением когнитивиста Зенона Пылишина, что камень умнее кошки, потому что если ударить камень ногой, у него хватит ума укатиться прочь.
Наконец, разумное существо должно использовать рациональные правила для достижения целей разными способами, в зависимости от того, какие препятствия ему приходится преодолевать на пути. Как поясняет Уильям Джеймс:
Джульетта притягивает Ромео, как магнит притягивает металлические опилки; если ему не мешают обстоятельства, он движется к ней по такой же прямой линии, как они. Но Ромео и Джульетта, если между ними будет воздвигнута стена, не будут стоять, как идиоты, прижавшись лицами к противоположным сторонам стены, как это бывает в случае, если между магнитом и опилками поставить бумагу. Ромео вскоре найдет альтернативный путь – взобравшись на стену или как-то еще – беспрепятственно припасть к губам Джульетты. В случае с металлическими опилками, их траектория движения неизменна; любая случайность может определить, достигнут они цели или нет. В случае с влюбленным Ромео, неизменной остается только цель, а траектория движения может меняться как угодно64.
Выходит, что интеллект – это способность достичь цели, невзирая на препятствия, принимая решения, основанные на рациональных (подчиняющихся критерию истинности) правилах. Компьютерщики Алан Ньюэлл и Герберт Саймон конкретизировали эту идею, отметив, что интеллект состоит в способности определить цель, оценить текущую ситуацию, чтобы увидеть, насколько она отличается от цели, и применить ряд действий, позволяющих уменьшить это различие. С облегчением отметим, что под это определение существа, обладающего интеллектом, подходят не только инопланетяне, но и мы, люди. У нас есть желания и мы добиваемся желаемого, опираясь на наши знания, которые при хорошем раскладе являются по меньшей мере приблизительно или вероятностно истинными65.
То, что понятие «интеллект» должно определяться через такие термины, как знание и желание, далеко не очевидный факт. Старая теория стимула и реакции, предложенная бихевиористами, предполагала, что знания и желания не имеют ничего общего с поведением – и вообще, научного в них не больше, чем в привидениях и черной магии. У людей и животных определенный стимул вызывает реакцию, потому что ранее с этой реакцией был связан триггер рефлекса (пример – выделение слюны как реакция на звук колокольчика, который ранее был связан с появлением пищи) или потому что реакция в присутствии данного стимула получила подкрепление (пример – животное получает еду, нажимая на рычажок). По словам известного бихевиориста Б. Ф. Скиннера, «вопрос не в том, может ли машина мыслить, а в том, может ли мыслить человек»66.
Конечно же человек может мыслить; теория стимула и реакции оказалась несостоятельной. Почему Салли выбежала из здания? Потому что она была убеждена, что дом горит, и не хотела погибнуть. То, что она выбежала из здания, – предсказуемая реакция на определенный стимул, который может быть объективно описан в терминах физики и химии. Возможно, она выбежала из здания, увидев дым; возможно, это было реакцией на телефонный звонок с сообщением о том, что здание горит, или на появление перед домом пожарных машин, или на звук пожарной сигнализации. Однако ни один из этих стимулов не должен был неизбежно заставить ее выйти на улицу. Она не вышла бы, если бы знала, что дым идет от булки в тостере, или что по телефону ей позвонила подруга, которая репетирует свою роль для спектакля, или что кто-то по ошибке или ради шутки включил пожарную сигнализацию, или что сигнализацию проверяет электрик. Свет, звук, частицы, которые можно измерить физическими приборами, не могут предопределять поведение человека. Если что-то и предопределяет в данном случае поведение Салли, так это то, убеждена ли она, что находится в опасности. Естественно, убеждения Салли связаны с воздействующими на нее стимулами, но только косвенным, весьма замысловатым путем, через посредство прочих ее убеждений относительно того, где она находится и как устроен мир. В не меньшей мере поведение Салли зависит от того, насколько сильно она желает избежать опасности. Можно предположить, что она бы не выбежала из здания, если бы была членом добровольческой пожарной бригады или самоубийцей, или фанатичкой, решившей пойти на самосожжение, чтобы привлечь внимание к своим идеалам, или у нее на верхнем этаже здания остались дети.
Сам Скиннер тоже был не так глуп, чтобы утверждать, что измеряемые стимулы вроде длины волн или формы могут предопределять поведение. Он определял стимулы по наитию, удовлетворяясь такими наименованиями, как «опасность», «похвала», «красота», «английский язык». В этом заключалось определенное преимущество его теории, позволявшее ей не расходиться с реальностью, но это было преимущество грабежа над честным трудом. Мы все понимаем, что механическое устройство может реагировать на красный свет или громкий звук – мы даже можем сконструировать такое устройство, но ведь человек – единственное устройство во Вселенной, способное реагировать на опасность, похвалу, английский язык и красоту. Способность человека реагировать на что-то столь физически неуловимое, как похвала, – это один из элементов головоломки, которую мы пытаемся разгадать, а вовсе не элемент решения этой головоломки. Похвала, опасность, английский язык и все остальные вещи, на которые мы реагируем, точно так же, как красота, оказываются в глазах смотрящего. И как раз «глаза смотрящего» – это то, что нам остается объяснить. Между тем, что можно измерить приборами, и тем, что может вызывать поведение, лежит целая пропасть, и именно поэтому мы не имеем права отказывать людям в наличии у них убеждений и желаний.
В повседневной жизни мы прогнозируем и интерпретируем поведение других людей, исходя из того, что, по нашему мнению, они знают и чего, как нам кажется, они хотят. Убеждения и желания – инструменты, которыми мы пользуемся для толкования мира в нашем интуитивном мышлении, и именно психология интуиции по сей день остается наиболее полноценной и полезной наукой о поведении. Чтобы прогнозировать большинство действий человека – то, что он подойдет к холодильнику, сядет в автобус, откроет кошелек, – не нужно разрабатывать математическую модель, моделировать нейронные сети на компьютере или нанимать профессионального психолога; достаточно спросить у своей бабушки67.
Я не хочу сказать, что психология должна больше полагаться на здравый смысл, чем физика или астрономия. И все же этот самый здравый смысл позволяет с такой точностью прогнозировать, регулировать и интерпретировать повседневное поведение по сравнению с любой другой когда-либо предложенной для этих целей альтернативой, что велика вероятность того, что он в той или иной форме будет встроен в наши лучшие научные теории. Я звоню старому другу, который живет на другом побережье, и мы договариваемся встретиться в Чикаго у входа в бар в определенном отеле в 19:45, в определенный день через два месяца. Я прогнозирую, он прогнозирует, и все, кто знает нас, прогнозируют, что в этот день мы встретимся. И мы действительно встречаемся. Поразительно! В какой еще научной области может дилетант – да и специалист тоже, собственно говоря, – прогнозировать на несколько месяцев вперед траектории двух объектов, находящихся на расстоянии тысяч миль друг от друга, с точностью до сантиметров и минут? Да еще и делать это на основе информации, которая укладывается в несколько секунд разговора? Расчеты, лежащие в основе прогнозирования, и представляют собой интуитивное мышление: знание, что я желаю встретиться со своим другом, а он желает встретиться со мной, и каждый из нас убежден, что другой будет в определенном месте в определенное время и знает последовательность перелетов, поездок и пересадок, которые необходимо совершить, чтобы туда добраться. Никакая наука, изучающая мозг и мышление, не способна достичь лучшего результата. Это не означает, что интуитивная психология убеждений и желаний сама собой представляет собой науку, однако из этого следует, что научной психологии еще предстоит объяснить, как физический объект – такой, как человеческий организм, – может иметь убеждения и желания и как выходит, что эти убеждения и желания так хорошо работают.
Традиционное объяснение сути интеллекта заключается в том, что человеческая плоть проникнута нематериальной сущностью – душой, которую обычно представляют в виде духа или привидения. Однако эта идея наталкивается на неразрешимую проблему: как этот призрак взаимодействует с твердым веществом? Как эфемерное ничто реагирует на вспышки, толчки, звуковые сигналы и заставляет наши руки и ноги двигаться? Еще одна проблема – это наличие явных доказательств того, что мышление связано с деятельностью мозга. Душу, которую называют невещественной, как мы теперь знаем, можно рассечь ножом, изменить путем воздействия химических веществ, запустить и остановить с помощью электричества, уничтожить резким ударом или недостаточным количеством кислорода. Если на мозг посмотреть в микроскоп, мы увидим, что он обладает захватывающей сложностью физической структуры, полностью соизмеримой с богатством мышления.
Есть версия, что мышление порождает некая особая форма материи – подобно тому, как Пиноккио появился из найденного Джузеппе волшебного полена, которое говорило, смеялось и двигалось само по себе. Увы, никому еще не удалось обнаружить такого чудесного вещества. Можно подумать, что таким чудесным веществом является мозговая ткань. Дарвин писал, что мозг «выделяет» мысль, а не так давно философ Джон Серль утверждал, что физико-химические свойства мозга каким-то образом позволяют ему производить мысль, как молочная железа производит молоко, а растительная ткань производит сахар. Но вспомним, что мозговая ткань всех представителей царства животных содержит одни и те же виды мембран, пор и химических веществ, не говоря уже об опухолях мозга и пробирочных культурах. Каждая частица нервной ткани обладает одними и теми же физико-химическими свойствами, но не каждая способна порождать интеллект, подобный интеллекту человека. Конечно, ткани человеческого мозга отличают некоторые свойства, необходимые для нашего интеллекта. Но одних только физических свойств недостаточно – точно так же, как физических свойств кирпичей недостаточно, чтобы объяснить особенности архитектуры, а физических свойств частиц воздуха недостаточно, чтобы объяснить музыку. Критическое значение имеет нечто в структурировании нервной ткани.
Нередко мышление пытаются объяснить за счет некоего потока энергии или силового поля. Магические шары, таинственный дым, ауры, вибрации, магнитные поля, линии силы – все это неизменные атрибуты спиритизма, псевдонауки и дешевых фильмов в жанре научной фантастики. Представители школы гештальт-психологии попытались объяснить зрительные иллюзии, ссылаясь на действие электромагнитных полей на поверхности мозга, однако обнаружить эти поля так и не удалось. Периодически поверхность мозга пытаются описать как некий носитель колебаний, который поддерживает голограммы и другие интерференционные картины, однако и эта идея не завоевала признания. Ставшая основой для теории Фрейда гидравлическая модель, подразумевающая, что психическое давление накапливается, прорывается наружу или отводится через альтернативные каналы, и по сей день прослеживается в десятках привычных для нашего уха метафор; мы говорим: накопилась злость, выпустить пар, взорваться от гнева, выплеснуть эмоции, сдержать ярость. Но даже самый большой накал страстей не означает буквально, что где-то в мозге накапливается и высвобождается энергия (в физическом смысле). В главе 6 я попытаюсь убедить вас в том, что внутреннее давление не лежит в основе деятельности мозга; скорее мозг намеренно использует его как средство ведения переговоров – как террорист, привязавший к своему телу взрывчатку.
Недостаток всех этих теорий в том, что даже если мы когда-нибудь и откроем какую-нибудь субстанцию, или вибрацию, или магический шар, который будет говорить и проказничать, как найденное Джузеппе полено, или просто будет принимать решения, основанные на совокупности рациональных правил, и преследовать свою цель, невзирая на препятствия, перед нами по-прежнему будет стоять главный вопрос: как ему это удается?
Нет, интеллект происходит не от какой-то особой разновидности духа, материи или энергии. Его источником является информация. Информация – это корреляция между двумя объектами, возникающая в результате закономерного процесса (в противоположность возникающему по чистой случайности)68. Мы говорим, что кольца на пне коррелируют с возрастом срубленного дерева (чем старше дерево, тем больше на пне колец), и эта корреляция не случайна, а связана с тем, как деревья растут. Корреляция – понятие математическое и логическое, она не имеет ничего общего с тем, из чего состоят коррелирующие объекты.
В информации как таковой нет ничего особенного; с ней мы встречаемся каждый раз, когда причина ведет к следствию. Особенное начинается, когда речь идет об обработке информации. Мы можем рассматривать частицу материи, передающую информацию о положении дел, как символ; она может «обозначать» это положение дел. Однако будучи частицей материи, она может выполнять и другие функции – физические функции, зависящие от того, что может происходить с данным типом материи в данного типа ситуации по законам физики и химии. Годичные кольца несут информацию о возрасте деревьев, но они также способны отражать свет и поглощать красящие вещества. Следы несут информацию о передвижении животного, но они также способны удерживать воду и образовывать завихрения воздушного потока.
А сейчас давайте представим вот что. Предположим, что кто-то создал машину с деталями, действия которых зависят от физических свойств какого-либо символа. Некий рычаг, привод, фотоэлемент или магнит приводится в движение пигментом, поглощенным годичным кольцом дерева, или водой, собравшейся в отпечатке ноги, или светом, отражаемым следом мела, или магнитным зарядом на участке магнитной ленты. Предположим, что далее машина производит некое другое действие с другой массой вещества: наносит еще одну отметку на кусок дерева, оставляет отпечатки следов на мокрой земле, сообщает магнитный заряд еще одному участку магнитной ленты. Пока ничего особенного не происходит: все, что я описал, – это цепь физических действий, осуществленных бесполезным приспособлением.
А теперь перейдем к особенному. Представим, что мы пытаемся интерпретировать только что полученное материальное явление, используя схему, согласно которой исходный элемент несет в себе информацию. Например, посчитаем только что полученные годичные кольца и будем интерпретировать их как возраст данного дерева в данный момент времени, несмотря на то, что их источником вовсе не был рост дерева. Допустим, что машина была сконструирована таким образом, чтобы полученные метки действительно что-то означали – то есть чтобы они несли в себе информацию о каком-то явлении в мире. Например, представим, что машина сканирует годичные кольца на пне и выжигает на специальной доске по одной метке на каждое кольцо, потом переходит к пню более молодого дерева, срубленного в то же самое время, и стирает с доски по одной метке на каждое кольцо. Сосчитав оставшиеся отметки на доске, мы получим возраст первого дерева на тот момент, когда было посажено второе дерево. В этом случае перед нами будет разумная машина, машина, которая делает истинные выводы из истинных посылок – не за счет какого-то особого вида материи или энергии и не за счет того, что какая-то из ее деталей обладает интеллектом или рассудком. Все, что мы видим, – это тщательно сконструированная цепь самых обыкновенных физических действий, первым звеном которой было конфигурирование материи, несущей в себе информацию. Наша разумная машина своей разумностью обязана двум свойствам, неразделимо соединенным в той сущности, которую мы называем символом: символ несет в себе информацию и одновременно обусловливает другие события (годичные кольца коррелируют с возрастом дерева и могут поглощать световой луч сканера). Когда явление, обусловленное другим явлением, само несет в себе информацию, мы называем такую систему процессором данных или компьютером.
Вообще вся эта схема может показаться вам нереализуемой на практике. Кто может гарантировать, что можно соединить между собой несколько штуковин так, чтобы они падали, раскачивались, мигали ровно таким образом, что получившиеся результаты можно было интерпретировать и обнаружить некий смысл? (А еще лучше, чтобы это был смысл, вписывающийся в ранее сформулированную концепцию или закономерность, которая представляется нам интересной – в конце концов, ведь постфактум толкование можно дать любым результатам, даже самым бессмысленным.) Можем ли мы быть уверены, что подобная машина будет выдавать знаки, которые будут действительно соответствовать какой-то значимой ситуации в мире (например, возрасту дерева в тот момент, когда было посажено другое дерево, или среднему возрасту отростка этого дерева, или чему-нибудь еще), а не будут просто бессмысленным рисунком, не означающим ничего вообще?
Гарантией того, что это возможно, являются труды математика Алана Тьюринга. Он разработал гипотетическую машину, входные и выходные символы которой могут соответствовать в зависимости от специфики машины одной из огромного количества разумных интерпретаций. Машина состоит из ленты, разделенной на ячейки, головки записи-чтения, которая может печатать или считывать символ в ячейке и двигать ленту в обоих направлениях, указателя, который может указывать на фиксированное количество отметок времени на корпусе машины, и набора механических рефлексов. Каждый рефлекс запускается прочитанным символом и текущим положением указателя; машина печатает символ на ленте, передвигает ленту и/или перемещает указатель. Лента, подаваемая в машину, не ограничена по количеству. Эта конструкция получила название «машина Тьюринга».
Что может делать эта простая машина? Она может считывать символы, обозначающие цифры или совокупности цифр, и печатать символы, обозначающие новые цифры, которые являются значением той или иной математической функции, решаемой посредством пошаговой последовательности операций (сложения, умножения, возведения в степень, разложения на множители и так далее – я намеренно не закрываю список, чтобы подчеркнуть важность открытия Тьюринга, не вдаваясь в технические подробности). Она может применять правила любой применимой логической системы, чтобы получать истинные утверждения из других истинных утверждений. Она может применять правила грамматики любого языка, получая грамматически правильные предложения. Эквивалентность между машинами Тьюринга, математическими функциями, логическими правилами и грамматиками привела логика Алонсо Черча к положению о том, что любая четко определенная пошаговая инструкция, которая гарантированно дает решение данной проблемы за ограниченное время (иными словами, любой алгоритм) может быть выполнена с помощью машины Тьюринга.
Что это значит? Это значит, что в той мере, в которой наш мир подчиняется решаемым пошагово математическим уравнениям, может быть создана машина, которая имитирует мир и может делать относительно него прогнозы. В той мере, в которой рациональная мысль соответствует законам логики, может быть создана машина, которая осуществляет рациональное мышление. В той мере, в которой язык можно описать как совокупность грамматических правил, может быть создана машина, которая синтезирует грамматически правильные предложения. В той мере, в которой мысль представляет собой результат применения той или иной совокупности четко определенных правил, может быть создана машина, которая в некотором смысле этого слова думает.
Тьюринг показал, что думающие машины – машины, которые, опираясь на физические свойства символов, выдают новые символы, имеющие смысл, – создать можно; более того, создать их довольно легко. Специалист по теории вычислительной техники Джозеф Вейценбаум как-то продемонстрировал, что такую машину можно построить из штемпеля, нескольких камней и рулона туалетной бумаги. На самом деле, не нужно даже иметь кучу таких машин для разных функций – одну для сложения, другую для вычисления квадратного корня, третью – для того, чтобы писать предложения на английском языке, и так далее. Существует разновидность машины Тьюринга, которая называется универсальной машиной Тьюринга. Она может считывать описание работы любой другой машины Тьюринга, напечатанной на специальной пленке, а затем в точности воспроизводить работу этой машины. Одну и туже машину можно запрограммировать делать любую работу, которую можно описать совокупностью правил69.
Означает ли это, что человеческий мозг – это машина Тьюринга? Конечно же нет. Машины Тьюринга не используются нигде и уж тем более не используются у нас в голове. На практике они бесполезны: слишком неудобны в использовании, слишком сложны для программирования, слишком медленны и громоздки. Но это неважно. Тьюринг хотел доказать только, что система из расположенных в определенном порядке приспособлений может функционировать как разумный процессор символов. Вскоре после его открытия были разработаны более практичные процессоры символов, некоторые из которых впоследствии превратились в универсальные вычислительные машины: в «Ай-би-эм», «Юнивак», а чуть позже – в «Макинтоши» и персональные компьютеры. Все они по сути представляли собой универсальную машину Тьюринга. Если не принимать во внимание размер и скорость и предоставить им столько памяти, сколько нужно, их можно запрограммировать таким образом, чтобы они выдавали одинаковые выходные данные в ответ на одинаковые входные данные.
Были предложены и такие процессоры символов, которые должны были симулировать работу человеческого мозга. Такие модели часто воспроизводятся на персональных компьютерах, но это условные модели. Персональный компьютер изначально запрограммирован на то, чтобы эмулировать деятельность гипотетического ментального компьютера (образуя то, что специалисты по вычислительной технике называют виртуальной машиной); примерно также можно запрограммировать «Макинтош» эмулировать работу персонального компьютера. Всерьез воспринимается только виртуальный ментальный компьютер, а не кремниевые микросхемы, которые реализуют его. Далее на виртуальном ментальном компьютере запускается программа, моделирующая тот или иной вид мозговой деятельности (решение задачи, понимание предложения). Перед нами – новый путь к пониманию человеческого интеллекта.
Позвольте показать, как работает одна из таких моделей. В наш век, когда реальные компьютеры стали столь сложными, что непосвященному человеку понять их так же невообразимо трудно, как и работу мозга, достаточно показательным будет пример вычисления в пошаговом рассмотрении. Только так можно оценить, насколько простые устройства способны, будучи соединены между собой, образовывать процессор символов, демонстрирующий реальные проявления интеллекта.
Неуклюжая машина Тьюринга – не лучшая реклама теории о том, что мозг – это компьютер, поэтому я возьму за образец модель, которая может хотя бы отдаленно претендовать на сходство с нашим ментальным компьютером. Я покажу, как она решает настолько сложную задачу из повседневной жизни (родственные отношения), чтобы способность машины решить ее действительно производила впечатление.
Модель, которую мы будем использовать, называется продукционной системой. В ней отсутствует явно небиологическая характеристика всех серийных компьютеров: упорядоченный список этапов программы, который машина выполняет последовательно и целенаправленно. Продукционная система состоит из памяти и совокупности реакций, которые иногда называют «демонами», потому что они представляют собой простые автономные сущности, которые, образно говоря, сидят и ждут, когда их запустят. Память – это что-то вроде доски, на которую вешают объявления. Каждый демон – как коленный рефлекс; он ждет, когда на доске появится конкретное объявление, и реагирует на его появление тем, что прикрепляет к ней свое собственное объявление. Все демоны в совокупности образуют программу. По мере того, как они реагируют на появление объявлений на доске тем, что вывешивают собственные объявления, и тем самым вызывают реакцию других демонов, и так далее, информация в памяти меняется и в конечном итоге превращается в правильную выходную информацию для данной входной информации. Некоторые демоны связаны с органами чувств и запускаются они не информацией в памяти, а информацией, поступающей из окружающего мира. Другие демоны связаны с конечностями и реагируют тем, что двигают конечности, а не тем, что вывешивают новые объявления на доске памяти.
Предположим, что ваша долгосрочная память содержит знание о всех ваших родственниках и близких. Содержимое этого знания может быть представлено в виде совокупности суждений вроде «Алекс – отец Эндрю». Согласно вычислительной теории сознания, эта информация воплощается в виде символов: совокупности физических знаков, которые коррелируют с состоянием мира, отраженным в суждениях70.
В роли символов, о которых идет речь, не могут использоваться английские слова и предложения, вопреки распространенному заблуждению о том, что мы мыслим на родном языке. Как я показал в книге «Язык как инстинкт», предложения в устной форме языка – например, английского или японского – предназначены для устной коммуникации между разумными и очень нетерпеливыми членами социума. Они стремятся к краткости, поэтому опускают всю информацию, которую слушатель может мысленно восстановить, исходя из контекста. Напротив, «язык мысли», на котором формулируются суждения, не может ничего оставлять воображению, поскольку он сам и есть воображение. Еще одна проблема с использованием английского языка как посредника в передаче знания заключается в том, что предложения на естественном языке могут быть двусмысленными. Предположим, серийный убийца Тед Банди добился отсрочки приведения в исполнение смертного приговора, и в газете появляется заголовок Bundy Beats Date with Chair, но мы не сразу понимаем, о чем идет речь, потому что наш мозг приписывает этой последовательности слов два смысла (из-за многозначности слов beats, date и chair высказывание может означать «Банди избежал казни на электрическом стуле» или «Банди ударил свою девушку стулом». – Прим. пер.). Если одна последовательность слов в английском языке может соответствовать двум значениям в мышлении, значения в мышлении не могут быть последовательностями слов в английском языке. Наконец, предложения естественного языка могут быть осложнены артиклями, предлогами, суффиксами рода, другими грамматическими деталями. Они нужны для того, чтобы легче передать информацию из одной головы в другую посредством говорения и слуха, то есть через очень медленный канал связи, но они совершенно не нужны внутри головы, где информация передается напрямую по пучкам нейронов. Итак, утверждения в системе знания – это не предложения на английском языке, а конструкции на более насыщенном информацией языке мысли, «мыслекоде».
В нашем примере образец мыслекода, который выражает семейные отношения, представлен двумя типами утверждений. Пример первого типа – Alex father-of Andrew (Алекс отец Эндрю): имя, за которым следует указание на тип родственных отношений, а затем еще одно имя. Пример второго типа – Alex is-male (Алекс мужского пола): имя, за которым следует указание на пол. Пусть вас не смущает то, что в записях мыслекода я использую английскую лексику и синтаксис. Это делается только для того, чтобы вам, читатель, было легче понять, что означают символы. В случае с машиной эти символы представляют собой разные метки. Это могут быть какие угодно символы, расположенные в каком угодно порядке – при условии, что каждый символ последовательно используется для обозначения одного и того же человека (например, тот символ, который мы используем для обозначения Алекса, всегда используется для Алекса и никогда не используется для обозначения кого-либо еще), и что они располагаются в одном и том же порядке (чтобы они могли правильно передавать информацию о том, кто чей отец). Метки могут иметь форму штрихов в штрих-коде, распознаваемом сканером, или замочных скважин, к каждой из которых подходит только один ключ, или форм, которые подходят только к одному шаблону. Естественно, в случае серийных компьютеров это будут разные последовательности расположения зарядов в кристаллах микросхем, а в случае мозга – последовательности возбуждения в группах нейронов. Здесь очень важно отметить, что машина не может понимать символы таким же образом, как вы и я; элементы конструкции машины реагируют на их форму, выполняя ту или иную операцию – как автомат для продажи жвачки реагирует на вес и форму монетки, выдавая покупателю жвачку.
Приводимый ниже пример – это попытка пролить свет на суть машинного вычисления, показать вам, как машине удается это провернуть. Чтобы более наглядно представить мое положение о том, что символ может одновременно обозначать некое понятие и механическим путем обусловливать некое событие, я покажу весь процесс работы продукционной системы шаг за шагом и опишу все происходящее дважды: на концептуальном уровне, в терминах содержания задачи и логики, которая используется для ее решения, и на механическом уровне, в терминах действий машины – считывания данных и нанесения меток. Система разумна в том смысле, что эти два уровня точно соответствуют друг другу: каждая идея соответствует метке, каждый логический шаг соответствует действию.
Назовем ту часть памяти системы, в которой содержатся записи о родственных отношениях, «Долгосрочной памятью». Другую часть назовем «Краткосрочной памятью» – это нечто вроде чернового блокнота для вычислений. Часть «Краткосрочной памяти» представляет собой область задач; в ней содержится список вопросов, на которые система пытается ответить. Системе нужно узнать, является ли Горди родным дядей по отношению ко мне (условное обозначение – Я). В самом начале память выглядит следующим образом:
На концептуальном уровне наша цель – ответить на вопрос; ответ будет положительным, если факт, которого он касается, истинен. На механическом уровне система должна определить, есть ли где-нибудь в ее памяти последовательность знаков, идентичная той последовательности, которую мы видим со знаком вопроса в колонке «Задачи». Функция одного из демонов системы – отвечать на вопросы, связанные с поиском, считывая аналогичные знаки в колонках «Задачи» и «Долгосрочная память». Обнаружив совпадение, он печатает метку рядом с вопросом, что означает, что вопрос получил положительный ответ. Для удобства давайте скажем, что метка имеет форму слова Yes (Да).
IF: Goal = blah-blah-blah?
Long-Term Memory = blah-blah-blah
THEN: MARK GOAL
Yes
(ЕСЛИ: Задача = то-то и то-то?
Долгосрочная память = то-то и то-то
ТО: МЕТКА ЗАДАЧИ
Да)
Концептуальная проблема, стоящая перед системой, состоит в том, что у нее нет эксплицитного знания о том, кто чей дядя. Это знание имплицитно следует из других фактов, которые она знает. На механическом уровне то же самое будет значить вот что: в разделе «Долгосрочная память» нет метки uncle-of (дядя); там есть только метки sibling-of (брат/сестра) и parent-of (родитель). На концептуальном уровне нам нужно вывести знание о том, кто чей дядя, из знания о том, кто приходится кому родителем и братом/сестрой. На механическом уровне нам нужен демон, который сделает запись uncle-of (дядя), по обе стороны от которой будут нужные метки, обнаруженные в записях с элементами sibling-of (брат/сестра) и parent-of (родитель). На концептуальном уровне нам нужно выяснить, кто у нас родители, идентифицировать их братьев и сестер, потом выбрать из них лиц мужского пола. На механическом уровне нам нужен следующий демон, который сделает в области «Задачи» новые записи, запускающие соответствующие операции поиска в памяти:
IF: Goal = Q uncle-of Р
THEN: ADD GOAL
Find P’s Parents
Find Parents’ Siblings
Distinguish Uncles/Aunts
(ЕСЛИ: Задача = Q дядя PTO: ДОБАВИТЬ ЗАДАЧУ
Найти родителей Р
Найти братьев/сестер родителей
Различить дядь/теть)
Этот демон запускается записью uncle-of (дядя) в колонке «Задачи». В этой колонке действительно есть такая запись, поэтому демон начинает действовать и добавляет к этой колонке новые метки:
Необходим также элемент программы – еще один демон или дополнительный механизм внутри данного демона, который будет отвечать за Р и Q, то есть заменять ярлык Р списком конкретных ярлыков имен: Me (Я), Abel (Абель), Gordie (Горди) и т. д. Эти детали я здесь не привожу, чтобы не усложнять восприятие процесса.
Новые записи в колонке «Задачи» побуждают к действию других демонов. Один из них (на концептуальном уровне) ищет родителей системы, копируя (на механическом уровне) все записи, содержащие имена родителей, в раздел «Краткосрочная память» (если только там уже нет таких записей, конечно; это условие необходимо, чтобы демон не продолжал бессмысленно делать одну копию за другой, как ученик чародея):
IF: Goal = Find P’s Parents
Long-Term Memory = X parent-of P
Short-Term Memory ≠ X parent-of P
THEN: COPY TO Short-Term Memory
X parent-of P
ERASE GOAL
(ЕСЛИ: Задача = найти родителей P
Долгосрочная память = X родитель P
Краткосрочная память ≠ X родитель P
ТО: КОПИРОВАТЬ В КРАТКОСРОЧНУЮ ПАМЯТЬ
X родитель P
СТЕРЕТЬ ЗАДАЧУ)
Теперь наша доска объявлений выглядит следующим образом:
Теперь, когда мы знаем родителей, мы можем найти братьев и сестер родителей. На механическом уровне это означает, что теперь, когда имена родителей записаны в разделе «Краткосрочная память», может начинать работу демон, копирующий записи о братьях и сестрах родителей:
IF: Goal = Find Parents’ Siblings
Short-Term Memory = X parent-of Y
Long-Term Memory = Z sibling-of X
Short-Term Memory
Z sibling-of X
THEN: COPY TO Short-Term Memory
Z sibling-of X
ERASE GOAL
(ЕСЛИ: Задача = найти родителей P
Краткосрочная память = X родитель Y
Долгосрочная память = Z брат/сестра X
Краткосрочная память
Z брат/сестра X
ТО: КОПИРОВАТЬ В КРАТКОСРОЧНУЮ ПАМЯТЬ
Z брат/сестра X
СТЕРЕТЬ ЗАДАЧУ)
Вот что у него получается:
На данном этапе мы рассматриваем дядь и теть вместе. Чтобы отделить дядь от теть, нам нужно найти среди них мужчин. На механическом уровне система должна найти записи, рядом с которыми в разделе «Долгосрочная память» стоят метки is-male (мужского пола). Вот демон, который выполняет эту проверку:
IF: Goal = Distinguish Uncles/Aunts
Short-Term Memory = X parent-of Y
Long-Term Memory = Z sibling-of X
Long-Term Memory = Z is-male
THEN: STORE IN LONG-TERM MEMORY
Z uncle-of Y
ERASE GOAL
(ЕСЛИ: Задача = различить дядь/теть
Краткосрочная память = X родитель Y
Долгосрочная память = Z брат/сестра X
Долгосрочная память = Z мужского пола
ТО: ХРАНИТЬ В ДОЛГОСРОЧНОЙ ПАМЯТИ
Z дядя Y
СТЕРЕТЬ ЗАДАЧУ)
Это демон, который наиболее явно воплощает в себе понимание системой значения слова «дядя»: это человек мужского пола, брат одного из родителей. Система добавляет запись о том, кто является дядей, в раздел «Долгосрочная память», а не «Краткосрочная память», потому что эта запись представляет собой элемент знания, который всегда истинен:
На концептуальном уровне мы всего лишь логически вывели факт, который был запрошен. На механическом уровне мы только что создали идентичные друг другу вплоть до последней метки записи в колонках «Задачи» и «Долгосрочная память». Запускается самый первый из упомянутых мной демонов, который осуществляет поиск таких пар; он ставит метку, обозначающую, что задача решена:
Чего мы достигли? Мы построили из безжизненных деталей автомата по продаже жвачки систему, которая делает нечто, отдаленно напоминающее работу мышления: она устанавливает истинность утверждения, с которым ранее никогда не имела дела. Из утверждений о конкретных родителях, братьях и сестрах и знания о том, что значит быть чьим-то дядей, она выработала истинные утверждения о конкретных дядях. И все это, повторю еще раз, было сделано путем обработки символов – материальных изображений, обладающих репрезентативными и каузальными свойствами, то есть одновременно способных нести в себе информацию о чем-либо и принимать участие в цепочке физических событий. Указанные события и составляют процесс вычисления: вычислительные механизмы задуманы таким образом, что если интерпретация символов, запускающих машину, является истинным утверждением, тогда и интерпретация символов, синтезированная машиной, тоже является истинным утверждением. Вычислительная теория сознания – это гипотеза о том, что интеллект как раз представляет собой вычисление в этом значении слова.
«Это значение» довольно широко и позволяет избежать дополнительных посылок, связанных с другими определениями вычисления. Так, нам не нужно принимать в качестве исходного положения, что вычисление состоит из последовательности отдельных шагов, что символы должны либо явно наличествовать, либо явно отсутствовать (в противопоставление градации признака: более выраженный – менее выраженный, более активный – менее активный), что мы гарантированно получим правильный ответ за ограниченный промежуток времени, или что истинное значение должно быть «абсолютно истинным» или «абсолютно ложным», а не подразумевать вероятность или некоторую степень уверенности. Таким образом, вычислительная теория охватывает и альтернативный вариант компьютера с множеством элементов, активных в той или иной степени, в зависимости от вероятности того, что то или иное утверждение истинно или ложно; компьютера, в котором уровень активности может постепенно меняться, отражая новые и приближенно точные вероятности. (Как будет показано ниже, вполне возможно, что именно так работает мозг.) Главная идея заключается в том, что ответ на вопрос «Что делает систему умной?» – не материя, из которой сделана система, и не какая-то особенная энергия, протекающая через нее, а то, для чего предназначен каждый из элементов машины, и каким образом закономерности изменений внутри системы отражают соответствующие параметру истинности отношения (включая случаи, когда истинность является вероятностной или недостаточно четко определенной)71.