4 Китайский цифровой ГУЛАГ

«Государство строго режима» — это история о том, почему и как была создана самая всеобъемлющая в мире система слежения. В центре истории — северо-западный автономный район Китая Синьцзян. До прихода к власти Коммунистической партии Китая регионом управляли Османская, Монгольская и Маньчжурская империи, а в какой-то момент даже военачальник, поддерживаемый Советским Союзом. С 1990-х годов китайская военизированная организация бинтуань привлекала в регион поток ханьских китайских реформаторов, которые начали вытеснять уйгуров из этого района. Негодование по поводу потери собственной земли и жёсткого распределения богатств привело к серьёзным последствиям в регионе, включая многочисленные террористические акты.

С точки зрения режима, уйгуры не могут быть одним с китайцами народом. И поэтому должны быть уничтожены в культурном и лингвистическом отношении. Именно это привело к ситуации, когда сепаратизм и терроризм стали казаться привлекательным вариантом для уйгурского населения.

Кейн внимательно изучает технологические прорывы, которые сделали возможным создание тотальной системы слежения. Интересна роль частных компаний, особенно приложения WeChat. Это самая популярная социальная сеть Китая. В настоящее время у неё более миллиарда пользователей. С помощью сервиса люди могут обмениваться текстами и фотографиями, расплачиваться в магазине, заказывать покупки и такси или даже назначать свидание. Функционал WeChat закрывает практически все задачи, которые нужны в жизни. Всё это — в телефоне. Всю информацию, которую пользователи WeChat дают приложению, легко собирать. И её можно отслеживать. Без данных, собранных WeChat, создание системы слежения было бы невозможно.

Конечным результатом стала интегрированная платформа общего доступа. Она, по сути, основана на предсказании, то есть на упреждающих арестах. Алгоритм системы просеивает массовые данные и предсказывает, какие типы людей совершат преступления в будущем, побуждая полицию либо проводить дальнейшие расследования, либо брать человека под стражу. Человек попадает в систему, если у него есть родственники, проживающие за границей, он занимается какой-либо религиозной деятельностью или если меняет своё поведение. Очень незначительные «проступки» могут приговорить человека к заключению в концентрационный лагерь. А отправка в лагерь подвергает риску родственников.

Кейн утверждает, что с 2014 года режим распространил жёсткую авторитарную власть на всё население уйгуров, не проводя больше различия между террористом и обычным гражданином. Сами лагеря также функционируют вне системы уголовного правосудия Китая. В результате более миллиона человек, помещённых в лагеря, не получили официальных обвинений.

Что поражает в китайской ситуации, так это скорость, с которой была создана система наблюдения. Кто бы мог подумать ещё несколько лет назад, что в современную эпоху допустима реальность, в которой искусственный интеллект может приговорить человека к преступлению ещё до того, как преступление совершилось? Вполне вероятно, что такие технологии наблюдения, как в Синьцзяне, в итоге распространятся и на другие части мира. И этому способствует тот факт, что роль искусственного интеллекта в обществе часто плохо понимается и, следовательно, плохо регулируется. Ситуация в Синьцзяне во многих отношениях — это тревожный сигнал для остального мира.

Неудаща