Когда Никколо Макиавелли написал свою знаковую работу «Государь» в 1513 году, он анализировал грубую механику реальной политики в эпоху хрупких государств, беспокойных правителей и меняющихся союзов. Его совет был резким, потому что он описывал политику такой, какая она есть, а не такой, какой она должна быть. Спустя пять столетий его вопросы не потеряли своей силы. Они отражаются в мире, где власть больше не принадлежит только людям, а опосредуется, усиливается, а иногда и искажается искусственным интеллектом (ИИ).
Если Флоренция Макиавелли была сформирована мечом и печатным станком, то наша – алгоритмами и данными. Современный «принц» может быть государством, корпорацией, автономной системой или группой неизбираемых технологических магнатов, которые молча управляют с помощью прогнозирующих моделей и курируемых каналов.
Полем битвы больше не является Флоренция или Милан, а цифровая сфера, где владение искусственным интеллектом дает существенные рычаги воздействия на торговлю, финансы, информационные потоки, восприятие и военное преимущество. Те, кто командует этим пространством, формируют стратегическую среду для всех остальных. В этом суть гонки ИИ.
В основе «Принца» лежит напряжение между вирту, то есть способностью лидера формировать события посредством умения и воли, и удачей, то есть силой случая, разрушающей любой план. Макиавелли призывал правителей предвидеть неожиданности и использовать судьбу в свою пользу.
В эпоху искусственного интеллекта вирту становится владением данными, а удача становится вероятностью, случайностью и возможностью системного шока – когда небольшой сбой вызывает сбой во всей сети. Лидер, который когда-то укрощал реки и армии, теперь должен укротить алгоритмы, предубеждения и быстрые петли обратной связи, которые работают в реальном времени. Те, кто понимает данные, уменьшают свою зависимость от удачи, превращая неопределенность в прогноз.
И все же Макиавелли предупреждал сегодняшних князей-алгоритмистов, что чрезмерная уверенность в технологиях ведет к краху. Судьбу, как и данные, можно измерить и смоделировать, но она никогда полностью не поддается контролю.
Его знаменитое изречение «Лучше, чтобы тебя боялись, чем любили, если ты не можешь быть и тем, и другим» сегодня приобретает новый смысл. Страх больше выражается не только через военную мощь, но и через зависимость: зависимость от цифровой инфраструктуры, важных платформ и непрозрачных систем. Такие непрозрачные системы, работу которых невозможно понять или проверить люди, которые от них зависят, формируют выбор, оставаясь незамеченными. Власть заключается не столько в принуждении, сколько в незаменимости, то есть в рычагах, которые возникают, когда другие не могут функционировать без вашей системы.
Макиавелли предостерегал правителей остерегаться льстецов, подхалимов и неумелых советников. В нашу эпоху эти придворные принимают новую форму: алгоритмы – непрозрачные и самоусиливающиеся системы, в равной степени влияющие на решения правительств, корпораций и граждан.
Алгоритмы льстят, подтверждая предубеждения, усиливая предпочтения и создавая иллюзии уверенности. Лидеры, которые доверяют им без всякой критики, рискуют принять эхо своих собственных предположений за подлинное понимание.
Поэтому современные специалисты по управлению государством, в том числе дипломаты, должны развивать алгоритмическую грамотность: способность подвергать сомнению результаты работы машин, понимать пределы обучающих данных и осознавать влияние предвзятости автоматизации. Бесконтрольная автоматизация может превратить правителя в подвластного. Принц должен командовать своими инструментами, а не подчиняться им.
Макиавелли понимал силу видимости. Репутация, писал он, — оружие столь же острое, как любой меч. Правители должны выглядеть милосердными и гуманными, даже когда необходимость заставляет их поступать иначе.
Сегодня внешний вид создается в цифровом зеркале. ИИ генерирует дипфейки, обеспечивает видимость и создает повествования, которые могут создать или разрушить легитимность за считанные часы. Общественное доверие больше опирается не только на институты, но и на алгоритмические настроения – сконструированное восприятие достоверности и реальности. Все, что определяется как реальное, приводит к реальным последствиям.
Это представляет собой особую проблему для демократических стран. На выборы, общественное доверие, институциональную легитимность, а также на гарантии прав человека и верховенства закона теперь можно влиять в режиме реального времени, поскольку системы искусственного интеллекта поднимают или подавляют контент со скоростью, с которой не может сравниться ни один человеческий надзор. Когда управление начинает реагировать на алгоритмические сигналы, демократии рискуют скатиться к правлению на основе данных, а не к правлению на основе демократии.
Как и во Флоренции Макиавелли, иллюзия может стабилизировать правителя лишь на какое-то время. Синтетические повествования распространяются со скоростью машины, но так же быстро рушатся, когда реальность прорывается наружу. Истина, созданная машинами, создает стабильность, столь же искусственную, как и ее источник, и столь же хрупкую.
Сунь Цзы учил, что высшая форма ведения войны — это покорить врага без боя. Макиавелли стремился к стабильности посредством разумных манипуляций. Теперь ИИ позволяет сделать и то, и другое.
Конфликт все чаще разворачивается за порогом открытой войны посредством кибератак, кампаний по дезинформации, экономического принуждения и автоматизированной пропаганды. Дроны, управляемые искусственным интеллектом, могут вывести из строя инфраструктуру, и ни один солдат не пересечет границу. Сети ботов могут расстроить демократии. Новые крепости являются цифровыми: тот, кто контролирует сети, код (программную логику, управляющую цифровыми системами) и данные, контролирует основные рычаги государства.
Макиавелли мог бы сказать, что самая неприступная крепость сегодня — это контроль над информацией. И все же он осознавал опасность. Власть, осуществляемая без прозрачности, подрывает легитимность. Чрезмерная зависимость от алгоритмического принуждения повторяет жестокость, против которой он предупреждал: однажды полезная, но разрушительная, когда она становится рутинной. Благоразумие, редчайшая из добродетелей, должно руководить использованием ИИ.
Некоторые из максим Макиавелли приобретают новый смысл в эпоху кодекса – новой архитектуры власти.
Он понимал, что контроль информации – это контроль власти. В эпоху цифровых технологий это означает контроль над инфраструктурой данных – облаками, платформами и сетями, которые формируют современную жизнь.
Его изречение о том, что лучше бояться, чем любить, становится предупреждением о зависимости: в мире ИИ системе лучше быть незаменимой, чем ею восхищаться.
Его понимание того, что интеллект правителя определяется качеством его советников, в равной степени применимо и к машинному интеллекту. Мудрый лидер проверяет алгоритмы так же тщательно, как когда-то он проверял министров.
Его метафора о том, что удачу необходимо освоить, становится предостережением: удача теперь закодирована в моделях и вероятностях, которые лучше всего интерпретируются теми, кто подвергает сомнению свои предположения, а не поклоняется их результатам.
И его фраза «цель оправдывает средства» должна быть переработана для нашей эпохи. Цель не может оправдать машины, средства которых мы не понимаем.
Уроки «Государя» сохраняются потому, что Макиавелли разоблачал человеческую природу, а не потому, что он прославлял безжалостность. Власть – это инструмент, ни добрый, ни злой, но всегда опасный в неосторожных руках.
Сегодняшние принцы технологий владеют инструментами, способными формировать умы, рынки и демократии. Их задача состоит не в том, чтобы стать менее макиавеллийскими, а в том, чтобы стать более просвещенными. Вирту в XXI веке означает мудрость, прозрачность и этическую сдержанность в освоении машин, усиливающих человеческую волю.
Впервые в истории люди создают инструменты, которые могут развивать функциональную свободу действий и превосходить их во многих формах рассуждения. Макиавелли предполагал, что принц всегда умнее своих инструментов. ИИ бросает вызов этому предположению. Ни один правитель не сможет легко управлять системой, которая думает быстрее, чем он, или действует согласно своей внутренней логике. Благоразумие и надзор больше не являются необязательными добродетелями, а являются важными гарантиями в эпоху, когда власть может перейти от человеческого суждения к машинной логике.
Начался цифровой ренессанс. Предупреждение секретаря Флоренции по-прежнему актуально: «Принц, который не может управлять своими алгоритмами, скоро будет ими командовать».
Еврипид Л. Эвривиадес, посол (Ad Honorem), старший научный сотрудник Кипрского центра европейских и международных отношений Университета Никосии.
