Как технологии укрепляют власть диктаторов — и одновременно ставят её под угрозу

В марте 2022 года, через две недели после начала полномасштабного вторжения Москвы в Украину, редактор российского «Первого канала» Марина Овсянникова ворвалась в студию вечерних новостей. За спиной ведущего она развернула плакат, нарисованный от руки: «Остановите войну. Не верьте пропаганде. Вас обманывают!» Она кричала: «Нет войне!», пока её не увели.

С тех пор никто не выступал с протестами против войны на российском телевидении. Частично это объясняется усилением безопасности и общей атмосферой страха. Однако в октябре 2024 года Маргарита Симоньян, одна из главных российских пропагандисток, предложила другое объяснение. По её словам, всё больше ведущих телеканала RT — не настоящие люди. «Этого лица не существует. Голос и всё остальное мы сгенерировали». Она имела в виду, что их создаёт искусственный интеллект. В интервью газете «Ведомости» она пояснила свою логику: «Таким ведущим не нужна зарплата или страховка, их не арестуют, и полиция не будет обыскивать их дома. Это всё прекрасно и ужасно одновременно».

Именно это ИИ обещает любому автократу: возможность сохранять контроль без делегирования задач ненадежным людям. Перспектива крайне заманчива. Сколь бы могущественными ни были диктаторы, им всегда требовались подчиненные — цензоры, пропагандисты, охранники, полицейские, аналитики спецслужб и местные чиновники — для выполнения их приказов. Но подчиненные всегда представляют потенциальную угрозу. Они могут уклоняться от работы, воровать, лгать, сливать информацию или устраивать заговоры против своего руководителя. В результате, одна из старейших дилемм, стоящих перед автократами, заключается в том, как наделить агентов властью для выполнения приказов, не давая им возможности обратиться против лидера. Обычно автократы справлялись с этим компромиссом, заполняя ключевые посты посредственностями, чья неспособность, как выразилась политолог Ханна Арендт, «лучшая гарантия их лояльности». Но это неизбежно затрудняло управление диктатурами и их выживание в кризисах.

ИИ, казалось бы, предлагает автократам два способа решить эту давнюю дилемму. Во-первых, он позволяет легко отслеживать и дисциплинировать своих последователей в реальном времени. Изменение в расходах или расписании встреч местного чиновника ИИ-система может автоматически отметить, без нужды в корыстных информаторах. Во-вторых, ИИ может полностью исключить подчиненных. Автоматизируя задачи, которые раньше требовали человеческого усмотрения, правители могут заменить ненадежных посредников верными алгоритмами, которые невозможно подкупить или манипулировать. Чиновники в автократических режимах это подтверждают. ИИ «может однозначно заменить половину чиновников», заявил министр цифрового развития России Максут Шадаев на Московском дата-форуме в апреле 2025 года, добавив: «возможно, чуть больше».

Однако эти обещания самоуправляемого государства иллюзорны, потому что ИИ никогда не бывает по-настоящему автономным. Системы должны создавать и поддерживать инженеры и специалисты по данным, чью квалификацию политические лидеры не могут оценить. Правитель, обращающийся к ИИ, чтобы снизить зависимость от ненадежных людей, в итоге может полагаться, ещё более слепо, чем раньше, на немногих специалистов по ИИ, которые поддерживают систему в рабочем состоянии. И эта новая цифровая преторианская гвардия может иметь те же слабости, что и старая, что делает её угрозой для правителя.

Глаза и уши

Китай лидирует в разработке ИИ-систем, которые могут отслеживать или заменять подчиненных. Программы «умных городов» в Пекине, Шанхае и других центрах используют ИИ для контроля за эффективностью и централизации надзора за местными чиновниками, которые ранее действовали в комфортной безвестности. Теперь они подвергаются алгоритмической оценке производительности. Китай также разработал систему ИИ «Нулевое доверие», которую за последнее десятилетие развернули примерно в 30 округах и городах. Эта система сопоставляла данные из более чем 150 правительственных баз данных, чтобы выявлять растраты и непотизм среди местных чиновников. Она работала слишком хорошо, выявив 8 700 чиновников, пока местные органы власти, под давлением со стороны контролируемых ими бюрократов, не начали её сворачивать. Но Пекин не отказался от своих новых электронных правительственных порталов, которые используют автоматизированные системы для выдачи документов и разрешений, сокращая личное взаимодействие, порождавшее мелкую коррупцию или фаворитизм. Тем временем Коммунистическая партия Китая продвигается в исследованиях того, что она называет «управлением мыслями», или как использовать ИИ для создания микротаргетированной пропаганды. Армия интернет-комментаторов Китая, ранее состоявшая из людей на зарплате, уже заменяется ботами.

Россия преследует те же цели с похожим рвением. Городская система распознавания лиц Москвы, развернутая на 200 000 камер, использовалась для идентификации и задержания протестующих во время антиправительственных демонстраций 2021 года. Центральное правительство начало использовать автоматизированный сбор и агрегацию данных, чтобы обходить региональных чиновников, которые могли искажать данные или использовать их для продвижения своих интересов. В 2023 году российский интернет-регулятор запустил «Окулус» — ИИ-систему, которая ежедневно сканирует сотни тысяч изображений на предмет запрещенного контента, включая политический. Это на порядки больше, чем могли бы обработать человеческие цензоры. Инструмент «Мелиоратор» российской службы безопасности использовался для создания более тысячи профилей вымышленных американцев, в основном на X (бывший Twitter), чтобы распространять кремлевские нарративы за долю стоимости человеческих «ферм троллей».

Другие автократии следуют по стопам Пекина и Москвы. В апреле 2025 года Объединенные Арабские Эмираты создали Управление регуляторной разведки, которое использует ИИ для разработки и внесения изменений в федеральные законы — работа, которую раньше выполнял законодательный персонал. Год спустя премьер-министр ОАЭ шейх Мухаммед бен Рашид Аль Мактум объявил, что автономные ИИ-агенты возьмут на себя половину операций федерального правительства в течение двух лет, и что «эффективность министров, генеральных директоров и ведомств будет оцениваться на основе их способности принять эту трансформацию».

Эти новшества могут сократить количество чиновников, необходимых автократам. Но они не могут по-настоящему создать то, чего диктаторы хотят больше всего: самоуправляемое государство. Даже для ИИ-сгенерированных телеведущих нужны люди, которые их строят и обслуживают, а системы цензуры нуждаются в людях для их переобучения, поскольку лексика диссидентства меняется. За каждой ИИ-моделью стоит небольшая группа инженеров и специалистов по данным, выполняющих жизненно важное обслуживание, и их работа настолько технически сложна, что правители не могут её понять.

Таким образом, эта зависимость становится ещё одной формой власти. Инженеры, поддерживающие аппарат слежки автократа, например, могут определять, что видит правитель. Они решают, какая информация достаточно важна для передачи и в какой форме её представить. Они определяют, какие угрозы отмечаются, и могут корректировать алгоритмы, которые выбирают, какой контент подавлять и кого арестовывать. И они могут делать это незаметно для дворца. Автократы, обращающиеся к ИИ, чтобы избежать зависимости от ненадежных подчиненных, лишь перенесли свою уязвимость на новую группу чиновников.

На самом деле, эта новая преторианская гвардия может быть опаснее прежних элит. Отчасти это связано с непрозрачностью ИИ-технологий, но также и с тем, что этот круг гораздо меньше. Римские императоры обычно имели десятки тысяч человек в преторианской гвардии; современные автократы полагаются на постоянные армии. Но с ИИ автократам понадобится лишь небольшая группа инженеров для создания и поддержания крупномасштабных ИИ-систем. Это может быть выгодно правителям, поскольку им придется следить за меньшим числом людей, но это также концентрирует точки отказа, так как для разрушительного сбоя требуется лишь несколько инженеров, что облегчает членам группы заговор против лидера. Члены новой гвардии также могут оказаться незаменимыми. Диктатор может заменить генералов, не разрушив армию. Но управление сложными системами машинного обучения требует такого специализированного набора навыков, что инженеров трудно заменить без перебоев, что дает этим акторам большое влияние.

Незаменимые

Важность технических работников для автократий уже проявилась. Когда IT-специалисты начали покидать Россию после полномасштабного вторжения в Украину в феврале 2022 года, например, Кремль ответил не угрозами, а стимулами, предложив им отсрочки от призыва. Он освободил их фирмы от налогов и субсидировал ипотеку. Когда президент России Владимир Путин через семь месяцев приказал мобилизовать 300 000 человек, IT-работникам предоставили полное освобождение. Это может показаться излишним, учитывая, что для работы ИИ-системы нужно всего несколько инженеров. Но режим не может заранее знать, какие именно инженеры ему понадобятся, и не может быстро обучить замену, поэтому ему приходится держаться за весь кадровый резерв, из которого выбираются эти немногие.

Эти меры не остановили отток примерно 100 000 специалистов — около десятой части российского IT-персонала — в течение 2022 года. Но Москва продолжала использовать подкуп, потому что экспертов крайне трудно мобилизовать под дулом пистолета, а мобилизованные эксперты могут быть менее склонны выполнять указания. Тем не менее, деньги и привилегии не могут гарантировать лояльность этих элит. Автократам следует вспомнить урок оригинальной преторианской гвардии: какое-то время она обеспечивала римским императорам защиту и безопасность. Но затем преторианцы обнаружили свою незаменимость, и ко второму веку они продавали империю тому, кто предложит больше. Этот новый набор элит может сделать то же самое. В июне 2023 года, когда колонна ЧВК «Вагнер» Евгения Пригожина двигалась по трассе к Москве, Путин полагался на свои службы безопасности, чтобы получать информацию о происходящем. Будущие правители в положении Путина будут получать такие предупреждения через машины: перехваченные сообщения, отсортированные программным обеспечением, видео с камер, отфильтрованные системами распознавания, региональные отчеты, скомпилированные в панели мониторинга. Инженеры, управляющие этими системами, могли бы договориться с новым претендентом и затем тянуть время. Они могли бы задержать данные, позволить оповещениям приходить с опозданием на несколько часов, ухудшить качество потоков в неудобные моменты или заставить систему распознавания перестать работать. В таком случае правитель действовал бы вслепую. Преторианской гвардии не нужно было убивать императора Нерона, чтобы заменить его. Ей достаточно было бросить его ради соперника.

Эти программисты вряд ли захватят власть сами, потому что у них, вероятно, не будет того, что в конечном итоге требуется лидерам переворотов: оружия. Но уже есть прецеденты, когда инженеры использовали свою власть для влияния на вызовы лидерству. В 1991 году, когда советская армия попыталась захватить контроль у Михаила Горбачева, несколько программистов сети «Релком» обеспечивали поток информации за границу и передавали указы президента России Бориса Ельцина аудитории внутри страны и за рубежом. Заговорщики не смогли остановить распространение новостей о неповиновении Ельцина, и переворот рухнул в течение трех дней.

Сокращение штата

ИИ не позволит автократам уволить всех своих силовиков. Кому-то всё равно придется производить аресты и управлять тюрьмами, а автократы могут купить лояльность, предлагая сторонникам государственные должности. Но ИИ позволит авторитарным режимам сократить штат, и в итоге количество чиновников имеет меньшее значение, чем то, как правитель их контролирует. Отслеживание заговорщиков или некомпетентных подчиненных всегда было главной ношей автократа. ИИ мог бы облегчить её, позволяя правителям более внимательно следить за своими чиновниками, не уделяя им столько активного внимания.

В ближайшей перспективе ИИ может принести автократиям большую выгоду. Несмотря на множество препятствий на пути внедрения, эта технология уже приносит авторитарным режимам преимущества в виде более дешевой слежки, более умной цензуры и меньшего числа человеческих подчиненных, которых нужно бояться и которым нельзя доверять. Но для автократических правителей соблазны искусственного интеллекта могут вновь создать ту же ловушку, из которой они пытаются выбраться. Чем больше режим зависит от ИИ, тем больше он зависит от людей, которые поддерживают работу ИИ. И эти люди, как и любой другой преторианский класс в истории, быстро осознают ценность своей незаменимости.