4 Искусственный интеллект: перспективы, возможности и страхи

Конечно, нет абсолютно никакой гарантии, что мы преуспеем в создании универсального искусственного интеллекта на уровне человеческого при нашей жизни — или вообще когда-нибудь. Но нет и ни одного «железного» аргумента, что нам это точно не удастся.

Макс Тегмарк - шведско-американский физик, профессор Массачусетского технологического института и космолог.
В этой книге Тегмарк исследует возможности искусственного интеллекта, варианты будущего человечества под контролем ИИ и то, для чего нам вообще нужен искусственный интеллект.
Начале меня очень удивило. Я даже подумала, что слушаю не ту книгу, потому что Тегмарк решил начать с научно-фантастического рассказа о том, как искусственный интеллект медленно захватывает мир. Но "Сказание о команде «Омега»" всего лишь зарисовка возможного будущего, предсказание, основанное на уже существующих возможностях и случаях.
Тегмарк разделяет жизнь на следующие этапы:
Жизнь 1.0 - биологическая, жизнь которая развивает свой «хард» (строение) и «софт» (поведение) благодаря многим годам эволюции.
Жизнь 2.0 - культурная жизнь, в которой «хард» продолжает развиваться эволюционно, а «софт» можно изменять и обучать на протяжении жизни одного человека.
Жизнь 3.0 - технологическая жизнь, которая самостоятельно может изменять «хард» и «софт».
Именно Жизнь 3.0 - это жизнь искусственного интеллекта. Но прежде чем создать ИИ, нам нужно понять чего мы хотим от него, для чего он создается, просчитать все плюсы и минусы. Что если искусственный интеллект посчитает человечество главной угрозой? А что если он захочет самостоятельно развиваться и жить, отдельно от человека? Разве мы можем позволить разуму, осознающему себя, жить в рабстве у людей? Как узнать, что у искусственного интеллекта вообще есть разум, а не имитация человеческого поведения? Что если, мы не поймем разумность ИИ, потому что у нас совершенно другое понимание сознания? Или, что еще страшнее, что если искусственный интеллект не поймет нас?
Тегмарк не верит в "восстание машин", но обоснованных аргументов о том, почему оно невозможно не дает. Но он верит в то, что искусственный разум позволит человеку быстрее добраться к звездам и достичь таких научных открытий, которые сейчас даже сложно представить.

P.S. Перевод у книги отличный, но иногда переводчик оставляет комментарий вроде: "на самом деле это слово переводится так, но я решил так". Самый важный пример этого - выбор сокращать "искусственный интеллект" вместо общепринятого на русском "ИИ" до "AI" (от английского Artificial intelligence). Мне непонятно, зачем нужна эта замена, если смысл не изменился.