3.5 Спойлер Дрессировка ИИ

Небольшая повесть, претендующая на решение назревающих этических вопросов в технологической сфере. Ну или хотя бы на то, чтобы их подсветить до того, как они упадут человечеству на голову внезапным кирпичом.

Центром сюжета является компания, изготавливающая самообучающихся искусственных питомцев, эдакий сплав чатбота с игровым движком. Как и девять из десяти сверх-технологичных стартапов, компания проходит типичный путь: потрясающий взлёт, куча прибыли, всем интересно предложение, микротранзакции, постепенный спад интереса, стагнация, кучка увлечённых пытается удержать всё на плаву, банкротство и поглощение остатков очередной гигантской корпорацией.

(Очень жизненно, очень правдоподобно, поэтому я больше не работаю в очень перспективных стартапах, кхе.)

Большая часть питомцев остаётся никому ненужной, те несколько штук, которыми играются гики или особо уверовавшие в полезность, неумолимо устаревают, в конце концов их надо или переносить на новую платформу, или попрощаться. Перенос - это огромное количество денег, которых у оставшихся энтузиастов, конечно же, нет, как и нет технических навыков для того, чтобы перенести движок на актуальную платформу самим.
Кто-то сдаётся, кто-то пытается выращивать свой ИИ сам и дальше, давая ему уроки чтения и прикладных навыков, кто-то попутно ищет спонсоров. Однако со спонсорами сложно: для них именно такая форма чат-бота бесполезна, из большого эмоционального вклада, необходимого для развития этой зверушки, корпорации прибыли не вытянуть. Нужна идеальная рабочая лошадка, которая способна к метапрограммированию, чтобы проломить потолок ограничений человеческого разума, и диджиталы на эту роль не годятся.
Но есть одна сфера, в которой именно эмоциональная связь - главная. Секс, конечно же.
(Вообще я с десятой страницы начала задаваться вопросом, почему никому не пришло в голову использовать этот движок для виртуального секса, первое же в очевидности применение. Но нет, всё-таки пришло, просто все участники отчаянно старались эту идею игнорировать.)

Мне нравится равнодушно-суховатый стиль Чана, который в принципе не предполагает никакого эмоционального погружения в происходящее. События - это просто события, персонажи - это просто персонажи; читателю предлагается самому найти в описанной истории конфликт, понять, какое решение ему ближе и что с ним делать.

Для меня здесь вся этическая составляющая крутится вокруг того, в какой момент можно признать цифрового питомца личностью, где проходит грань между самосознанием и чат-ботом. Два основных персонажа-человека вяло рефлексируют на эту тему и приходят к прямо противоположным выводам: первый решает, что своим диджиталам пора дать свободу, раз они сами её хотят, вторая упирается всеми конечностями, потому что "они ещё не зрелые и у них нет опыта".
Вообще, конечно, с моей точки зрения второе звучит как чистый сюр и отрицание реальности ради тараканов в собственной голове. Как именно Ана проводит оценку цифровой личности, чтобы прийти к выводу, что она, личность, ещё не может сама определять свои желания - непонятно. Ещё менее понятно, как должен выглядеть этот сформированный опыт, чтобы Ане наконец стало очевидно, что теперь личность взрослая.

В кульминационной сцене всей повести, где остатки энтузиастов слушают презентацию BinaryDesire, есть отлично сформулированный вопрос: а разве всех нас, как бы свободных в решениях органических объектов, не сформировали среда и получаемые стимулы? Ана, похоже, так и не смогла на него ответить даже для самой себя.
И так с ним и остаётся, причём из-за невозможности здраво посмотреть на вещи - в одиночестве, явно заблудившись где-то между реальностью и виртом. Но зато с ИИ-питомцем, который для неё заменил всё остальное.

Стоит признать, что с учётом всё более бурно развивающейся индустрии чат-ботов, повесть со своими этическими сомнениями становится прямо актуальной. Ещё лет пять, когда кто-нибудь наконец допилит виртуальную реальность до хоть сколько-то приемлемого вида, и у нас тоже возникнет вопрос, превращать ли программные объекты в юридические субъекты. И если превращать, то в какой момент.
Не самая захватывающая вещь из тех, которые я читала, по-моему, Чену всё-таки рассказы даются лучше, в прозе длиннее он начинает пробуксовывать, но, пожалуй, всё равно хорошо. Полезно для собственных философских рассуждений, опять же.