Больше рецензий

Hermanarich

Эксперт

Эксперт Лайвлиба

7 августа 2018 г. 15:36

3K

5 Убегающий мозг

Есть научно-популярные книги, за которые я готов ставить высокие оценки, какие бы огрехи и недочеты они в себе не содержали. Это книги, которые не опускаются на уровень читателя, стараясь не перенапрячь и так изможденный от лежания на диване, просмотра телевизора и листания Одноклассников мозг, но которые старательно вытаскивают с дивана, отключают телевизор, отбирают смартфон с Одноклассниками, и заставляют тянуться, расти. Т.е. книги, которые пытают своего читателя, заставляют его расти вверх (а не вширь) всегда будет восхваляемы мной. Таким образом, подход, применяемый Стивеном Хокингом подход (меньше формул, т.к. люди пугаются и убегают) не заставит меня хвалить и восторгаться его книгами – все-таки в таком потакании слабостям аудитории я вижу скорее минус, чем плюс.
Наверное, первая аналогия, которая напрашивается в сравнении с «Новым умом короля» (далее – НУК) – это «Гедель, Эшер, Бах» Хофштадтера (далее – ГЭБ). И та, и другая книга в фундаменте своем имеют терему Геделя о неполноте, и та, и другая книга выдают огромную эрудицию и талант исследователей своих авторов (кстати, оба автора – серьезные ученые, а не принятые в России «популяризаторы науки», часто даже без профильного образования, но прошедшие курсы «популяризации»), и та, и другая книга посвящены вопросам ума, сознания, логики, и та, и другая книга пытаются прояснить фундаментальные вопросы для человечества – вопросы мышления. И все-таки это книги просто полярно разные, как по стилю написания, как по инструментарию, использованному при написании, как по фундаменту, заложенному в основу книги, так и по выводам. И если я преклоняюсь перед автором ГЭБ за изобретательность, литературную игру, то обаяние, которое он вложил в свой труд, то перед автором НУКа я преклоню колени за фундаментальность, четкость, работе на основную мысль, попытки не допустить ни малейшего шва в своих рассуждения, и провести читателя по всей тропе науки, сколь бы длинной она не была.
Книги, написанные более 30 лет назад, да написанные по передовым по тем времена направлениям – компьютерам, новым технологиям – всегда вызывают настороженность. С одной стороны – фундаментальный задел этих книг может быть чрезвычайно интересен и сейчас, но с другой – материал может кардинально устареть, и как пассажи ГЭБа о том, что компьютеру не удастся обыграть человека в шахматы (а если и удастся, то все это «не то») сейчас воспринимаются с кривой усмешкой (ибо пали не только шахматы, недавно пало и Го), так и некоторые моменты НЭК так же вызывают желание вступить в полемику с автором.
О стиле книге – автор лют. Если вы хотите узнать фабулу книги, не вдаваясь в подробности математического логики, классической физики, квантовой физики, космологии, биологии мозга, топологии – лучше пройдите мимо. Если мне показалось, что автор ГЭБа неумерен, вводя читателя в подробности рассматриваемой темы – это было сказано по незнанию. Куда милому, добродушном экскурсоводу Хофтшатдеру до абсолютного маньяка Пенроуза. Ближе к 4-й главе у меня начало рябить в глазах, и чуток подташнивать – мне уже было откровенно тяжело вникать, фронтально, во все формулы и суждения, приводимые автором. Ближе к 9-й главе я был готов уже сдаться, тем более что к вопросам сознания мы так и не подошли (впрочем, идею автора я уже угадал – о ней позже) – но к 9-й главе взлет завершился, и мы полетели в основную тему книги –сознание (не человеческое).
Автор – последовательный противник теории «Сильного ИИ» – твердо уверен, что никакая машина не сможет продемонстрировать нам интеллект в человеческом понимании (что, впрочем, не мешает ей показать какое-то другое сознание), т.е. свойство сознания НЕ проистекает из заданных алгоритмов, и никакая сколь угодно сложно запрограммированная машина не даст нам ключа к пониманию сознания. Сознание подчеркнуто неалгоритмично, что не помешает, постфактум, при анализе, подтащить его к какому-либо алгоритму. Автор оперирует классическим примером моделирования бильярдных шаров – смоделировать поведение шаров до удара практически невозможно, из-за колоссального количества факторов, воздействующих на них в реальном времени, но, когда они уже раскатились, модель вычисляется легко и просто. Эту мысль (теорию сильного ИИ), кстати, исподволь, но проталкивает Хофштадтер в своей книге, но ближе к концу – и именно опровержение этой мысли ставит Пенроуз в самое начало своего повествования. И у автора с собой две фуры аргументов.
Водитель первой фуры – Курт Гедель, своей знаменитой «теоремой о неполноте» раскрывающий несовершенство любой формальной системы. Основываясь на этом фундаменте, автор старательно доказывает невозможность полноценного сознания, способного выходить «за рамки» самого себя, в рамках математической формальной системы. Именно определенность математики, лежащей в основу любой машины, является слабым местом на пути к полноценному сознанию. Имитация да, возможна – но сознание нечто больше, чем набор заданных алгоритмов, и даже алгоритмов по созданию алгоритмов. И уже на этой «фундаментальной» стадии автор сомневается в возможности формирования искусственного интеллекта (полноценного ИИ) в рамках машины.
Водитель второй фуры заезжает чуток с другого бока, и имя ему – Макс Планк. Это, безусловно, самая интересная часть книги – автор убежден, что мы фундаментально не понимаем физические процессы в нашем мире. Противодействие классической физики и квантовой физики говорит о том, что мы вообще не приблизились к единой, стройной теории физического устройства мира, и, следовательно, не понимаем фундаментальные основы устройства мозга как физического объекта, который на одном уровне подчиняется квантовым законам, а на другом – законам классической физики. Привнесение квантовой компоненты в физическую картину лишает нас возможности понимать устройство мозга, и, следовательно, мы не имеем даже подхода к формированию сознания – чего уж говорить о создании «своими руками» чего-то альтернативного.
Года 2-а назад на Ленте.ру я читал статью о «новейшем открытии ученых» – совокупность параллельных электрических процессов в нейронах человеческого мозга, по мнению данных ученых, может быть достаточно для создания квантовой неопределенности. Признаться, сама мысль о том, что активность мозга – нечто из области квантовой физики, мне показалась чрезвычайно интересной – однако мне стоило бы прочитать эту книгу раньше, и узнать, что эта мысль высказана Пенроузом за 30 лет до того, как неизвестные ученые сделали это «гениальное предположение», а Лента разродилась статьей на эту тему.
Наборы аргументов автора мощны, тяжеловесны, доказательная база огромна – признаться, меня посетила мысль, что этой книгой можно заменять учебники по школьной физике и математике – настолько глубоко и «от начала» автор погружается в тему, что повествование и правда начинает напоминать школьный учебник. Мне очень нравится фундаментальность работы, что не отменяет факта, насколько тяжело ее, бывает, читать.
Ближе к пресловутой 9-й главе явно начинает создаваться ощущение – автор нас дурит. Не в смысле своих выкладок и предположений – здесь все четко, а в названии книги – создается ощущение, что у автора есть эти выводы из математики и физики, которые дают интересную пищу для размышления, но у автора нет своей четкой модели функционирования мозга (кроме отдельных элементов, например, ранее упоминаемой квантовой компоненте) – в этом смысле говорить о «Новом уме короля» - нельзя. Возвращаясь к знаменитой сказке Андерсена, автор выкрикивает «А король то голый», и здесь ему не откажешь в правоте – то время, что я затратил на изучение вопросов мозга, позволяют мне с автором согласиться – пока мы даже близко не приблизились ни к пониманию мозга как физико-биологического объекта, ни к пониманию сознания как физик-химико-биолого-математического объекта. Наше понимание «мозга» - голо. Но у автора, увы, нет никакого «нового платья» для мозга. Дикари из веток и свиного навоза пытаются собрать космический корабль, но пока у них получается только макет из соломы – который хоть и похож, издалека, на мозг, но не приближает к полетам на луну никак. Правда уже научился обыгрывать нас в шахматы (что оказалось задачей. учитывая специфику шахмат, совсем не сложной, и, предвещая опасения Хофштадтера, компьютер «взял» эту задачу грубой силой своих вычислительных мощностей, но не пониманием.
Книга – очень не для всех. Обилие математических выкладок оттолкнет огромное количество читателей – продраться через них было тяжело мне, притом, что математику на вузовском уровне я знал достаточно хорошо, и какой-никакой математической культурой, смею себя тешить, обладаю. Я бы предостерег читателя от нарочитой педантичности автора – но, если вы любите математику, любите крепкие, фундаментальные рассуждения, чтоб ни трещинки, ни зазубринки, равно как и такую работу мысли – книга точно для вас. Это очень серьезная научно-популярная литература, где слово «научная» раз в 10 больше слова «популярная». Я люблю такие книги – но предостеречь стоит.
И самое главное – фундаментально, несмотря на повествовательные перегибы, я с автором согласен. Автор, кстати, занимает гибкую позицию – и согласен даже допустить «бога» в свое понимание. В конце концов, как-бы признается автор, мы тут уже наворотили столько невероятного, и столько еще предстоит, что от наличия какого-то там бога ничего не обвалится и не затрещит. Реальность все-равно окажется интереснее, сложнее и невероятнее любых трансцендентных, непознаваемых существ.

Комментарии


Честно говоря, выводы Пенроуза о неалгоритмичности работы мозга и (тем более) о квантовом характере его вычислений не кажутся убедительными. Может быть, он прав, но это всё-таки маргинальные на сегодняшний день идеи.

И не далее чем сегодня я беседовал с искусственным интеллектом по телефону. Дело было так. Мне позвонил робот КПРФ с опросом о выборах мэра Москвы. Он реально понимал мои ответы. Например, он спросил, можно ли мне задать несколько вопросов. Я ответил не "да" и не "нет". Ответил "ну задайте", и он меня понял. Тест Тьюринга, правда, он не прошёл. После третьего ответа по существу темы я заподозрил, что это робот. Тогда я его спросил напрямую: вы робот? Он проигнорировал мой вопрос, я повесил трубку :)
Но после этого я задал вопрос уже самому себе: а не были ли некоторые из таких "спрашивальщиков" роботами раньше? Не прошли ли они со мной тест Тьюринга? Вот это интересно :)
Так что я абсолютно уверен, в отличие от Пенроуза, что в скором времени общаться с роботами "общего назначения" будет не менее забавно, чем с людьми.

Недавно я прочитал I Am a Strange Loop . Вот здесь Хофштадтер действительно показывает, что есть сознание и мышление. При этом никаких квантовых теорий для этого не требуется.
Плюс к тому он уделяет большое внимание своим личным переживаниям, и это не имеет отношения к делу. Бог с ним, его можно понять. Хофштадтер чувствует, что это его последняя книга и хочет рассказать кое-что потомкам и о себе.
Вот что почитайте :)


Я не считаю тест Тьюринга таким уж мощным средством. Более того, убежден, что даже по состоянию на начало 2000 года, если не предупреждать некоторых людей, что они беседовали с машинами - они вполне могут принять их за человека. Сама по себе идея: "Разум то, что кажется нам разумным", а именно этим подменил Тьюринг тезис "Разумны ли машины" - уж слишком абстрактная.
Идея о возможности квантовых процессов в мозге совсем не нова - ей лет 30-40, у нее есть влиятельные сторонники - сказать что она прям "маргинальна" - а что в науке о сознании не маргинально? Не маргиналы уже боятся обещать нам ИИ в пятилетку, ибо слишком много таких обещаний не исполнено, к проблеме сознания мы вообще не придвинулись, и даже изучение мозга как физического объекта, мягко говоря, в огромном кризисе во всем мире.
Общаться то будет приятно, это понятно - но вот насколько они будут обладать тем, что мы называем сознанием? Я готов согласиться, что для понимания работы мозга как физического объекта, у нас слишком мало знаний о физическом мире в целом. Вроде есть успехи в параллельном программировании - но с бешеными затратами энергии, мозг все это делает почти бесплатно. В общем, пока ясности нет, опасно отметать какие-либо теории заведомо как фантастические, только потому что они самим не пришли в голову.


Прочитайте всё-таки I'm a Strange Loop. Там совсем другая идея, и она кажется намного более жизненной, чем у Пенроуза. Серьёзно. При всём моём уважении к Пенроузу :)


Сразу не обещаю, тем более что чтение английского текста у меня слишком стойко ассоциируется с работой, и от этой ассоциации у меня изжога. :-) Но книжку отмечу, может дойдут руки.
Вот, кстати, малюсенькая заметочка 11-го года, о том что Пенроуз в чем-то мог быть прав.
https://www.newscientist.com/article/mg20927963-000-quantum-states-last-longer-in-birds-eyes/


Может быть, Пенроуз и прав. Я в самом первом своём посте об этом написал. Против него работает бритва Оккама: есть гораздо более правдоподобное объяснение...
Что же касается ориентации птиц, то это, может быть, и имеет некоторое отношение к мышлению. Но сохранение entangled states электронов в течение 100 микросекунд при температуре тела живой птицы has yet to be confirmed... Насколько я понимаю, с 2011 года такого подтверждения не получили, иначе это было бы мировой сенсацией.


Сказать что у нас есть хоть какие-то убедительные объяснения функционированию мозга как физическому объекту... Я регулярно слушаю лекции проф.Савельева относительно работы мозга, и по его личному убеждению, попытки смоделировать работу мозга в корне неверны именно по причине совершенно разной архитектуры компьютерной системы и мозга, причем различия настолько существенны, что все работы в этом направлении не ведут вообще никуда.
Одно можно сказать точно - сознание это прекрасный пример инструмента, который функционирует на промежутке между классической и квантовой физики, т.е. именно на той самой границе, где для человечества пока темнейший лес. Пенроуз на то и напирает - убедительные доказательства работы мозга можно получить в рамках синтетической физической теории, когда она появится, но явно не раньше.


Прочитайте всё-таки I'm a Strange Loop :)

Увидите, что не всё так трагично :)


Ой, не верю я оптимистам от науки. :-) Наука нам уже обещала, последовательно, долгую жизнь, экономическое процветание, оружие сдерживание, мир без войн, лечение генетических заболеваний (а, вообще лечение всего). :-) Пока мы как те дикари, что из соломы и веток пытаемся построить космический корабль, но он почему-то не летит.


Спасибо за отзыв! Возникло желание обязательно прочитать книгу! Теорема Геделя - одна из моих самых любимых. Заметила, что все мои попытки участвовать с дискуссиях о смысле жизни, человеке, языке заканчиваются обычно моими ссылками на теорему Геделя :)))


Вам спасибо что осилили.


Спасибо за рецензию, дочитываю книгу, она бесподобна.