3 Сам не увижу, так хоть согреюсь

Нет сомнений, что мир ждут большие изменения -- и скоро. Это будет изменение даже не масштаба промышленной революции. Скорее нас ждёт новая неолитическая революция. Всё, что было прежде, покажется тогда детством цивилизации. Для жизни взрослой наших ограниченных способностей просто не хватит.

Первую треть текста можно смело выкинуть. Там автор с бухгалтерской точностью разжёвывает историю от каменного топора до атомного реактора. Всё это довольно скучно.
В конце концов он переходит к делу, а именно к тому, что вычислительных ресурсов для искусственного разума сегодня нам наконец уже хватает. Однако

Это, конечно, не означало автоматически появления искусственного интеллекта, как он когда-то задумывался его отцами-основателями. Для этого у человечества пока что банально не хватает соответствующих знаний, о чем мы еще поговорим в главе 5.

Заявление о банальности оказалось неожиданным. Вот уж если что-то и есть в нашем мире наименее банальное, так это именно дефицит знания. Напечатать денег или наклепать микропроцессоров -- вот банальность. Умножение знания -- самая сложная деятельность из всех, которые можно себе представить. Сергей же Шумский увлечённо рассказывает нам о торговле и рекламе. О науке почти ничего нет, а именно в этом, по-моему, искусственный интеллект и будет наиболее полезен. Ладно, каждому своё.
Немного раздражает категоричность суждений. Пару раз в книге читаем "этого мы пока не знаем", но в основном всё выглядит непреложной истиной. Думаю, будущее покажет множество ошибок в предсказанном.

Так или иначе, с большинством рассмотренных идей я согласен. На все эти темы я достаточно думал, так что ничего особенно нового в книге не обнаружил.

Идея о воспитании машин и мне тоже кажется единственно правильной. Программирование как таковое уже в прошлом, предел его возможностей будет достигнут скоро. Все программы давно написаны, теперь машинам пора начать думать.

Для воспитания машин поначалу понадобятся люди.
Одни (наставники) -- это лучшие специалисты в своих областях. Они передадут машине свои бесценные знания, и их-то роботы и вытеснят из общества, когда им станет нечему от них учиться. Наставники сыграют роль провокаторов, пятой колонны человечества. Они, разумеется, найдутся.
Очевидно, одних знаний и умений мало. Требуется мораль, этика. Поэтому будут ещё нужны воспитатели. Эти станут прививать машинам человеческие ценности...
Разговоры о ценностях, честно говоря, настораживают. В последнее время я часто их слышу, и многие, на мой взгляд, пропагандируют вовсе не общечеловеческое единство, не мир и не дружбу. Что делать, например, с ценностями Хамаса?
Если роботы унаследуют нынешние разнообразные "ценности с национальной спецификой", ничего хорошего это миру не сулит. Одни интеллекты не смогут понять других.

Вопрос о том, кто кем управляет -- мы технологиями или технологии нами -- как мне кажется, не имеет отношения к делу. Я и так не управляю ничем. Будет ли мной управлять искусственный разум, или хозяева и менеджеры Амазона с Алиэкспрессом, или какой-нибудь труп в холодильнике, это, с практической точки зрения, без разницы -- если, конечно, они не устроят геноцида. Устроить геноцид все они способны в равной мере, причём, хорошо понимающий последствия своих действий искусственный разум, наверное, учинит какую-нибудь глобальную гадость как раз с наименьшей вероятностью.

К проповедуемой цифровой демократии у меня есть свои претензии. Идея хороша, но реализуема ли? Похоже, более вероятно соорудить цифровую охлократию... а ещё проще строится автократия. Кажется, мир к ней и так идёт вопреки здравому смыслу.

Нет сомнений, что искусственному разуму нужна и искусственная психика. Сергей Шумский думает, что эта психика должна быть построена по образу и подобию нашей. Сомневаюсь. Психика, которую мы унаследовали от бесчисленных предков в процессе эволюции, хорошо годится не только и не столько для взаимной любви и альтруизма, сколько для жульничества, войны и тому подобных дел. Все мы потомки хитрецов и убийц -- и наша психика всё это умеет, но ограничивается принуждением со стороны закона.
Законы же, типа Азимовских, слишком просты чтобы работать в реальном мире.

Интересно, конечно, было бы узнать, чем это всё кончится. То ли коммунизм настанет, то ли апокалипсис, вероятности того и другого абсолютно неизвестны. Хочется сказать "поживём -- увидим", но нет, мне не суждено, поэтому и читаю такие книги, см. заголовок моего текста.
Книга вошла в шорт-лист премии "Просветитель" 2023 года. Уважаю эту премию, это ещё одна причина прочитать.

Напоследок мелкий спойлер. Понравился небольшой расчёт с точностью до порядка величин:

Символы, в отличие от образов, обладают небольшим разнообразием. Например, буквы могут кодироваться всего лишь пятью битами (так как 2⁵ = 32). Зато комбинациями компактного набора символов можно закодировать практически неограниченный набор высокоуровневых понятий, определяющих любую распознанную сцену. В приведенном выше примере чтения текста этим понятиям соответствуют слова и их сочетания. Сознательное мышление вообще тесно связано с языком и представляет собой последовательные операции с символьной информацией. Минимальный акт сознания длится около 0,5 с [*]. За это время мы успеваем распознать примерно одно слово в среднем из 5 букв, или около 25 бит. Соответственно сознательное мышление (около 50 бит/с, или 10 байт/с) гораздо – в миллионы раз! – медленнее бессознательного. Но именно с такой скоростью мы разговариваем, думаем, читаем, печатаем, решаем задачи [*].
Сознательное мышление определяет скорость обучения, передачи знаний. Ведь бóльшую часть наших профессиональных знаний мы получили в процессе коммуникации с другими людьми. Скорость обучения особенно важна, так как она ограничивает объем наших знаний. Даже если учиться непрерывно по 16 часов в день (то есть 2 × 10⁷ с в год) в течение 100 лет, максимальный объем знаний составит 10¹¹ бит, или 10¹⁰ байт. Иными словами, знания каждого из нас составляют не более 10 ГБ, и их можно было бы записать на небольшую флешку.

([*]: здесь была ссылка на источник)

Очевидно, искусственный разум нам просто необходим -- и уже сегодня.

В целом книга хорошая, но могла бы быть много лучше.