Больше цитат

Wunderlick

5 сентября 2017 г., 07:08

— Начнём с Трёх Основных Законов Роботехники — трёх правил, которые прочно закреплены в позитронном мозгу. <…> Первое: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. <…>
— Второе, — продолжал Пауэлл, — робот должен повиноваться всем приказам, которые даёт человек, если эти приказы не противоречат Первому Закону. <…> И третье: робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому или Второму Законам. <…>
— Так это же всё объясняет. Когда эти законы вступают в противоречие между собой, дело решает разность позитронных потенциалов в мозгу. Что получается, если робот приближается к месту, где ему грозит опасность, и сознаёт это? Потенциал, который создаётся Третьим Законом, автоматически заставляет его вернуться. Но представь себе, что ты приказал ему приблизиться к опасному месту, В этом случае Второй Закон создает противоположный потенциал, который выше первого, и робот выполняет приказ с риском для собственного существования.