От больших данных до этики военных беспилотников: Айзек Азимов остается источником мудрости

Автор: Алекс Лейн

Если вы посмотрите сегодня вечером на небо, вы можете увидеть астероид 5020 Азимов или Кратер Азимова на Марсе. Если вы живете такой исключительной жизнью, то вы можете выиграть одну из четырех литературных премий Азимова. Или вы можете взять любой из 500 романов и научно-популярных книг, написанных Айзеком Азимовым , который сегодня отпраздновал бы свое 100-летие.

Названный «Великая Пишущая Машинка» за плодотворную работу, Азимов известен как писатель-фантаст. Но его творчество включает в себя также криминальную и молодежную фантастику. В научной литературе он писал все: от учебников до популярных руководств, по темам от химии и астрономии, до истории и литературной критики. Он также нашел время, чтобы преподавать, проводить исследования в биохимии, пропагандировать гуманизм и служить в армии США во время Второй мировой войны.

Будучи молодым фанатом научной фантастики, я пришел к Азимову через его романы цикла «Основание» , краткую, но эпическую историю падения и рассвета галактических империй в далеком будущем. Не беспокойтесь, если вы не знакомы с серией «Основание» и даже если не успели уделить время на эти три коротких романа. Серия должна стать основным сериалом для стримингового сервиса Apple TV Plus в конце этого года.

Меня привлекли в «Основании» замечательные иллюстрации легендарного художника-фантаста Криса Фосса, которые украшали обложки книг «Основание» , «Основание и Империя» и «Второе Основание» . Три десятилетия позже прочным наследием серии стала «психоистория», представляющая собой вымышленную науку, сочетающую психологию людей с продвинутой математикой. Психоистория основана на сборе огромного количества информации о поведении людей и объединения этой информации для выявления закономерностей, которые предсказывают будущее целых цивилизаций.

Азимов начал цикл «Основание» тогда же, когда и первопроходцы в области компьютерных технологий, такие как Алан Тьюринг закладывали основу для современного информационного общества, когда личные данные собирались в очных опросах. Сегодня наши данные собираются каждый раз, когда мы взаимодействуем в нашем объединенном технологиями мире, подпитывая феномен «Больших Данных», ставший печально известным не только из-за махинаций британской политической консалтинговой компании Cambridge Analytica, но также и из-за практики для общественного блага такими учеными, как Питер Турчин.

Большие данные могут быть определяющей наукой 21-го века, однако Азимов изобрел их 80 лет назад в облике психоистории. Они аккуратно разрешают споры о том, исчерпала ли научная фантастика вещи, которые можно предсказать для нашего технологического общества. Дело в том, что технологии все еще играют в догонялки с воображением, и я, например, не буду удовлетворен, пока мой робот-дворецкий не будет доставлен дроном от Amazon.

Что подводит меня ко второму вымышленному наследию Азимова: «Законы робототехники».

Как автор, оспаривающий роман об искусственном интеллекте, действие которого происходит через 100 лет от текущего момента, я живу в творческой тени «Законов робототехники», которые по сути являются простыми заповедями, внедренными внутрь воображаемых роботов Азимова, чтобы они не обращались против своих создателей. Подобно психоистории, эта восьмидесятилетняя концепция так глубоко заложена в научной фантастике, а законы — настолько фундаментально хорошая идея, что о роботах практически невозможно писать, не обращаясь к ним.

Законы робототехники встроены в мозги роботов Азимова, поэтому их нельзя игнорировать или перепрограммировать, и, на первый взгляд, их элегантная логика, кажется, гарантирует, что роботы никогда не будут опасны для человека.

Первый закон предписывает роботам не причинять вреда людям и не допускать вреда своим бездействием. Второй закон говорит им подчиняться человеческим командам, если только это не нарушает первый закон. Третий закон позволяет роботом защищать себя, если это не противоречит первому или второму закону. Позже Азимов добавил «нулевой закон», чтобы заменить первоначальные три: робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.

«Я, робот» является исчерпывающим сборником ранних историй Азимова, многие из которых о роботах, пытающихся подчиниться законам перед лицом человеческого поведения и терпящих неудачу с трагическими последствиями. В этой серии роботы редко бывают виноваты. Человеческие прихоти слишком противоречивы, извращенны или просто злы, чтобы роботы подчинились, чтобы никто не пострадал.

Как писателю 21 века, «Законы робототехники» кажутся мне наивной мечтой либерального гуманиста на заре современной эпохи. Азимов был и либералом, и гуманистом, он создал законы как реакцию на волну роботов в стиле Франкенштейна, которые появились в художественной литературе, навсегда стремящихся уничтожить человечество. Фильм «Терминатор» 2019 года показал, что эта идея не выйдет за моды. Но как раз когда робот-убийца Арнольда Шварценеггера выходит за рамки своих смертоносных программ, я удивляюсь, как могут измениться законы робототехники в будущем, вдохновленном 2020-ми годами.

В следующем десятелетии роботы будут все активнее использоваться во всех аспектах нашей жизни, от ухода за пожилыми людьми до замены солдат и пилотов на поле боя, по крайней мере, для стран, которые могут себе это позволить. Мы уже живем с роботами, которые сильно отличаются от гуманоидных машин, которые представлял себе Азимов, такие как автомобили с автоматическим управлением и роботы-пылесосы. Но меня беспокоит то, что я почти не вижу в действиях современных мировых лидеров или технологических титанов возможности того, что они подпишутся на что-нибудь столь же гуманное, как законы робототехники Азимова. Если роботы станут вездесущими и умными, нам нужно будет, по крайней мере, подумать о том, чтобы они наносили вред только нашим врагам, ставили наше выживание выше их собственного и не пытались запылесосить наших питомцев.

Этот подход может выглядеть не столько как фундаментальные законы, а как убеждения, которые люди уже принимают, чтобы занять свое место во вселенной. Заставить вашего робота поверить в то, что вы хозяин, кажется хорошим способом заставить его выполнять ваши приказы, тем более, если послушание вознаграждается небесным блаженством, а непослушание наказывается живым адом.

Моя счастливая задача как автора — увидеть, что происходит, когда один робот развивает недостаток в этой системе вознаграждений и наказаний и учится передавать его. Люди, как известно, плохо видят, что может пойти не так, когда вы притворяетесь, что вы хозяин. И основываясь на том, как мы относимся к другим приматам, не говоря уже о людях, которые просто выглядят иначе, хозяева роботов, описанные мной навряд ли примут создание, которое начнет думать само за себя. Но с людьми, погрязшими в их собственных дрязгах, свободные роботы могли бы быть могущественными союзниками или опасными врагами.

Этот прописная истина, что как писатели, мы стоим на плечах гигантов, и я не могу придумать лучшего творческого подъема, чем пример Айзека Азимова.

Совместный проект Клуба Лингвопанд и редакции ЛЛ