4.5 Фундаментальная угроза для всего человечества?

Искусственный интеллект плавно вошел в нашу повседневную жизнь – каждый день миллионы людей пользуются онлайн-поиском, распознаванием речи, онлайн-переводчиками и рекомендациями от развлекательных сервисов. Почему же, несмотря на все блага, многие люди до сих пор считают, что ИИ в будущем нас погубит?

Чтобы понять, откуда берутся эти страхи, нужно разобраться, как развивался ИИ, и на каком этапе он находится сейчас. Автор приводит много информации о зачатках ИИ в XVII–XIX вв., о бурном развитии этой сферы в 1950-х гг., о кризисе 1980-х гг. Больше всего мне понравилась глава про нынешнее состояние сферы ИИ, про сложности и ограничения, с которыми сталкиваются разработчики. На данный момент ИИ способен хорошо справляться только с конкретными задачами, так что до универсального ИИ еще очень далеко.

Идею о том, что сверхразумный ИИ погубит человечество, использовали в своих произведениях писатели-фантасты, и она хорошо прижилась: и в наши дни существует кампания “Остановите роботов-убийц” против развития ИИ. Возможно, людей пугает “игра в бога” и технологии, цель которых – воспроизвести работу человеческого мозга (но, по-моему, это очень круто и перспективно). Но главная причина недоверия к ИИ в том, что большинство людей не понимает, как он работает, и на основании чего ИИ делает тот или иной вывод. Уже сейчас ведется работа по тому, чтобы сделать алгоритмы как можно более прозрачными и понятными.

Ответ на вопрос в названии книги достаточно очевидный – от нас самих зависит, как будет развиваться ИИ, ведь мотивация всегда исходит от людей. ИИ может только “копировать” плохие стороны общества: так, ИИ от Microsoft, бот Тэй, в своем Твиттере за сутки стала расисткой, сексисткой и в целом не самым приятным “человеком”, общаясь с другими пользователями.

Формат книги довольно необычный – абзацы написаны шрифтом разного размера, так что можно читать кусочки, написанные крупнее всего, чтобы уловить главную суть (правда, это только мешает, если читать все), а еще в книге очень много картинок и инфографики. Забавно, что часть страниц в моем экземпляре напечатана “вверх ногами” – будем считать это не косяком печати, а “проверкой на робота”))