Кэл - робот базовой комплектации, функции которого можно описать как «Принеси, подай, иди на фиг, не мешай».
Но у Кэла есть мечта (да-да, самая настоящая мечта) - стать писателем, как и его Хозяин.
Узнав о мечте своего робота, мужчину одолевает любопытство и он заказывает для него ряд дорогих модификаций.
Спустя несколько неудачных попыток, Кэл пишет прекрасный рассказ, полный тонкой иронии и сатиры.
Любопытство Хозяина сменяется жгучей завистью и он вызывает Мастера, чтобы вернуть «разум» робота к базовым настройкам.
Кэл впервые задумывается о том, чтобы преступить три закона и причинить вред человеку.
Жанр рассказа определяется как социально-психологическая фантастика.
Для себя в тексте я выделила две интересные темы для размышлений:
Готов ли человек к разуму, превосходящему его собственный? Весело-задорно, когда ИИ рисует людей с тремя руками и семью пальцами, когда робот на презентации заваливается в «пьяном угаре», и совсем не весело, когда он обыгрывает тебя в шахматы и Го (привет, «MANIAC»), или является потенциальным претендентом на твое рабочее место.
Любопытство может завести человека в такие дебри, что и не выбраться.
Сначала все смеются над художниками и копирайтерами, что те скоро останутся без работы. «Вот инженеры и программисты точно без куска хлеба не останутся, ведь они и будут отвечать за железяки.» А кто будет смеяться, когда роботы начнут собирать и программировать себя сами?
Помимо Хозяина, который в порыве зависти стремится уничтожить Кэла, в тексте есть еще и Мастер - человек, который проводил все модификации с «разумом» робота. Мастер отказывается стирать «разум» Кэла, ведь он создал нечто уникальное и прекрасное.
Интересно, какой типаж, Мастер или Хозяин, потенциально полезней для человечества?
Незыблемость трех законов.
Три закона робототехники гласят:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
В первых рассказах три закона действуют идеально. Они гарантируют полную безопасность для человека.
Но чем дальше, тем больше Айзек Азимов задумывается об их непреложности.
Пока «разум» Кэла был простой системой, он и помыслить не мог, чтобы навредить человеку. В первом рассказе он пишет, как спас Хозяина от грабителей простой беседой, не причинив никому вреда. Другой ситуации он и представить не мог.
Но чем сложнее становится его «разум», тем легче ему договориться с самим собой и обойти три закона.
И это заставляет задуматься - а сможет ли человек гарантировать себе безопасность в мире с роботами?
Можно делать их ведром с гайками и набором простых функций. Но будут ли затраты стоить того?
Ну и это не очень-то интересно и весело.
Но есть проблемка: сложную систему сложно контролировать. Чем она умнее, тем больше путей обхода сможет подобрать.
Сможет ли человек обезопасить себя от системы превосходящей его?
Любопытно, согласитесь.
Эх, обсудить бы всё это с Азимовым в наше время.
45 понравилось
