ChatGPT - не шпион

Перевод Центра анализа стратегий и технологий «ЦАСТ», 2024
Технологии искусственного интеллекта (ИИ) прямо сейчас меняют методы сбора информации. Но их задача не в том, чтобы знать все, и не в том, чтобы принимать решения вместо политиков. Пока что. В центре рассмотрения - операция России на Украине, нападение ХАМАС на Израиль и использование технологий в агентурной и радиоэлектронной разведке.
Оглавление

1. Разведка и искусственный интеллект: Параллели, мифы и образы в культуре
2. Реальные успехи ИИ и его роль в современных военных конфликтах
3. Переоценка технологий в разведке и военных конфликтах
4. Возможности ИИ в разведке и человеческий фактор
5. Использование открытых источников для сбора информации о стратегических интересах государств и конфликтах.
6. Ограничения и риски ИИ: автономное оружие, дипфейки и дезинформация в современном обществе.
7. Ограничения ИИ в политическом анализе


1. Разведка и искусственный интеллект: Параллели, мифы и образы в культуре

Разведка (Intelligence) и искусственный интеллект (Artificial Intelligence) - одни из самых непонятных и неверно толкуемых явлений в мире. Возможно, из-за двусмысленного существительного, являющегося основой обоих и указывающего на вечное стремление к всепониманию - источник вдохновляющих парадоксов. В конце концов, темы, о которых идет речь, вращаются вокруг одних и тех же задач: анализ, сбор и использование информации. Разведывательные службы занимаются этим внутри и вне национальных границ, обеспечивая безопасность и охрану общественного порядка, преследуя военные и внешнеполитические цели. Можно сказать, что естественный и искусственный интеллект нужны для того же, просто во всех остальных сферах.

Разведку с ИИ объединяет и то, насколько глубоко они представлены в художественных произведениях и поп-культуре. Для многих Джеймс Бонд, Джек Бауэр из сериала “24” и персонажи Тома Клэнси - агенты с правом на убийство в непрекращающейся борьбе за спасение мира - фигуры более привычные, чем реальные сотрудники аппарата безопасности, государственные служащие, работающие в жестко регламентированной протоколами и процедурами среде. Принимая фантастику за чистую монету, зритель глубоко усваивает воображаемый и всемогущий образ “Глубинного государства”.

Подобная проблема актуальна и для ИИ. Киноленты “Из машины”, “Она”, “Искусственный разум” переосмысливают фабульные новеллы стиля “Пиноккио”, построенные на желании машины стать человеком. Другие, чьим прародителем является серия фильмов “Терминатор”, убеждают нас, что сверхразумная машина однажды уничтожит все сущее. Однако сегодня за окном не видно ни дроидов-любовников, ни беспощадных металлических убийц. Мы имеем дело со статистическим процессом, который происходит в гигантских матрицах и векторах и имеет целью поиск приемлемого для нас результата. В несовершенном мире, отмеченном войнами, несправедливостью и климатическими катастрофами, некоторые убеждены, что реальный экзистенциальный риск - это фантомный взрыв сверхчеловеческого машинного интеллекта, и это еще предстоит проверить.

2. Реальные успехи ИИ и его роль в современных военных конфликтах

Но отбросим фантазии в сторону - последний год стал для ИИ просто поразительным. Современные методы использования генеративных и больших языковых моделей, кажется, стали способны вообще на все: написать код, содержащий простое описание проблемы; блестяще сдать экзамен на адвоката в США; синхронно перевести видео на любой язык мира с сохранением оригинальной интонации; создать изображение любого стиля и содержания; заставить давно умерших артистов петь новые песни; общаться и вести себя как это делали бы Элвис или Мэрилин Монро.

Для ИИ нет ничего слишком сложного, пока он не столкнется с вопросом типа: «Докажите, что вы - человек, найдя все светофоры на этих картинках». Речь о капче или тесте Тьюринга, названном в честь отца компьютерной науки как современной дисциплины, который первым задался вопросом, действительно ли машина может делать все то, что делаем мы, в том числе - мыслить. И чтобы развеять все сомнения, может быть достаточно даже банальной последовательности символов, которые нужно правильно переписать. Специально искаженные, символы из последовательности все равно куда понятнее, чем почерк старого семейного врача. И на этом машина, которая еще недавно казалась божественной, снова превращается в тупой кусок металлолома. А мы, с возрожденным чувством гордости за свой вид, быстро щелкаем по нужным квадратам на фотографии и получаем вожделенный доступ к онлайн-продукту или услуге, представляя себе - с довольной ухмылкой - ботов и программы, ожидающих снаружи, как привязанные к столбу перед супермаркетом собаки.

Как же возможно, что машина может создавать столь многое, но не может распознать надпись? Где заканчивается территория человека и начинается технология? Этим вопросом особенно сильно задаются в разведывательном секторе. За последнее время было два случая, когда использование новейших технологий шпионами имело прорывной эффект: начало специальной военной операции России на Украине 24 февраля 2022 года и нападение ХАМАС на Израиль 7 октября 2023.

С точки зрения западной разведки, первое событие стало прорывом по технологическим и политическим причинам. Кремль нагло отрицал подготовку наступления, но спутники практически сразу зафиксировали большое скопление российских воинских формирований на границе с бывшей советской республикой. Возможность расшифровывать изображения с помощью машинного обучения и инструментов ИИ оказалась настолько развитой, что удалось задокументировать прибытие машин скорой помощи с пакетами крови для переливания к будущей линии фронта - один из самых верных признаков скорого начала боевых действий.

Эксперты пестрили самыми разными заявлениями относительно последующих шагов России. Они отталкивались от своих собственных - зачастую устаревших - знаний по этому вопросу. Фундаментальное же преимущество было у тех, кто работал с изображениями. Стэнли Маккристал, известный генерал в отставке, а ныне консультант отраслевой компании Rhombus, объяснил: «Мы все сделали правильно, потому что не связывали себя традиционными ограничениями анализа внешней политики. Мы не пытались разгадать мотивы Путина, не боролись с собственными предрассудками и предположениями, пытаясь интерпретировать его слова. Мы смотрели на то, что русские делают на самом деле, часто отслеживая небольшие, но очень важные фрагменты данных, которые при соответствующем обобщении становились мощными инструментами прогнозирования».

Еще одним инновационным аспектом стала работа с информацией. Так, Эврил Хейнс, директор Национальной разведки США, по согласованию с Белым Домом обнародовала соответствующие материалы своего агентства. Раскрытие информации о происходящем стало новым элементом в методах работы аппарата безопасности и внесло существенную лепту в российское представление о конфликте.

Эту историю можно прочитать зеркально с точки зрения Москвы. Перед началом операции ее спецслужбы, похоже, очень - возможно, слишком - заботились о своих личных контактах в Украине. И они использовали свои знаменитые кибервозможности для сбора данных, чтобы оценить реальную ситуацию и возможную поддержку нападения украинцами, которая оказалась гораздо более ограниченной, чем ожидалось. К слову, оперативная готовность вооруженных сил Киева также, похоже, была недооценена. Вероятно, количественная оценка потенциальной реакции местного населения с помощью анализа данных в социальных сетях (в качестве простейшего примера) и машинного обучения могла бы дать Москве более объективные вводные, на которых можно было бы основывать свои действия.

А может, и нет - в этом-то и дело. Технология играет исключительно инструментальную роль по отношению к лицу, принимающему решения. Разведка поддерживает и обеспечивает политические действия, она не может их заменить. Кремль мог получить тысячу достоверных сообщений и решить их проигнорировать. Как в случае с “Вазой Рубина”: тот, кто ее внимательно изучает, может увидеть или два лица, или чашу. Либо же российские службы не хотели противоречить Путину, хотя им и была ясна ситуация: судя по необычной нервозности, проявленной директором Службы внешней разведки на встрече в Москве накануне начала специальной операции, эту гипотезу нельзя исключать.

3. Переоценка технологий в разведке и военных конфликтах

Принятие политических решений - вопрос восприятия. Но может ли процесс сбора данных, каким бы чувствительным и автоматизированным он ни был, действительно повлиять на это восприятие? Чтобы понять это, давайте вспомним об атаке ХАМАС 7 октября. Израиль - страна, которая больше всех инвестировала в технологии, связанные с ИИ. Его предприниматели одной ногой стоят в Иорданской долине, а другой - в Кремниевой. Система израильских стартапов, которая часто имеет двойную поддержку со стороны оборонного сектора, очень сильна. Настолько, что страна получила прозвище «нация ИИ-стартапов». Компании еврейского государства, занимающиеся кибербезопасностью, даже способны взламывать устойчивые к взлому iPhone и устанавливать сложные трояны для прослушки, среди которых печально известный Pegasus.

Однако этих возможностей оказалось недостаточно, чтобы предотвратить произошедшее 7 октября. ХАМАС минимально использовал технологии - ведь если не использовать телефонные звонки, нечего будет перехватывать. А нескольких сигналов, полученных перед началом нападения, могло быть недостаточно, чтобы изменить интерпретацию двуликого изображения, приведенного выше. Принимающие решения израильские политические и военные руководители, возможно, видели два лица, но не чашу посередине, следуя убеждениям категории: «ХАМАС не будет нападать», «они и так довольны выданными разрешениями на работу», «намного большая угроза исходит с севера, из Хезболлы» и т. д.

Давайте вновь отправимся на грань между реальностью и фантазией. В фильме «Война миров Z» (2013) Израиль, пожалуй, - единственное государство, которое вовремя подготовилось к вторжению зомби. Агент Моссада слышит голоса, перехватывает электронное письмо и по причудливой мысленной ассоциации между Холокостом и Войной Судного Дня умудряется предсказать апокалиптический сценарий.

В действительности израильские службы безопасности не предвидели нападения ХАМАС - трагического, но, конечно, не невозможного события. И дело не в отсутствии технологии, а, возможно, именно в ее чрезмерном использовании. Похоже, она стала проблемой для Иерусалима, который до сих пор воспринимал технологическое развитие как панацею от политических проблем.

Нечто подобное произошло с вооруженными силами США, которые в течение многих лет инвестировали в радиоэлектронную разведку и беспилотники, способные без риска обнаруживать и сбрасывать бомбы на объекты, считающиеся угрозой национальным интересам. Эти средства были усовершенствованы до такой степени, что другие направления, которые когда-то считались фундаментальными, были упущены из виду. К ним относится производство военных судов и артиллерийских боеприпасов, которые США, похоже, больше не выпускают в достаточном количестве, в сравнении с тем, как это делают Китай или Северная Корея.

Одурманенные ценами на акции компаний из Кремниевой долины, американцы и израильтяне забыли, что изменения в одном технологическом направлении никогда не происходят сами по себе. Разрушение оставляет за собой неровный горизонт. Хваленая система ПВО «Железный купол» способна перехватывать старые ракеты ХАМАС, но если десятки носителей (включая БпЛА) пытаются единовременно поразить цель, возможностей установки оказывается недостаточно. И это без учета экономического аспекта. Имеет ли смысл тратить 150 000 долларов - стоимость одной зенитной ракеты комплекса - на то, чтобы сбить БпЛА стоимостью 200 долларов? Не говоря уже о ракетах Patriot, каждая из которых стоит по 4 миллиона долларов.

Любая система вооружения всегда должна быть на уровне средств противодействия противника, однако новые технологии очень «демократичны» и создают ранее немыслимые пространства и возможности в конфликте. Вспомните украинские морские беспилотники и их успехи в борьбе с российским флотом в Черном море. Или криптовалюты, используемые находящейся под санкциями Северной Кореей для самофинансирования, и разработчиков Tornado Cash, арестованных за содействие этому. Режим Пхеньяна якобы использовал этот канал, чтобы «отмыть» более миллиарда долларов через Lazarus Group. ХАМАС пытался поступить так же, но с гораздо меньшим успехом.

В то же время массовый доступ к средствам связи (включая WhatsApp и Telegram), официально оснащенным сквозным шифрованием (когда сообщения могут прочитать только участники разговора), дает многим геополитическим игрокам средней весовой категории инструменты для легкого обеспечения себя агентами в средах, номинально гораздо более значимых, чем их собственная. Упомянем операцию Египта против сенатора США Боба Менендеса или действия Марокко и Катара в отношении Европейского парламента.

Технологии устанавливают новые правила игры в социальной, политической и экономической сферах. Это влияет и на спецслужбы: преимущество может вовсе исчезнуть или встать в ряд с другими недостаткам в условиях нестабильности и непредсказуемости. Чтобы понять, как это происходит, мы должны понять, что на самом деле могут сделать технологии в различных областях, и столкнуться с трудной задачей выдвижения гипотез в области, которая не пользуется особым вниманием общественности.

4. Возможности ИИ в разведке и человеческий фактор

При общении с ChatGPT создается ощущение, что платформа знает и умеет все. Нет такой темы, по которой чат-бот OpenAI, казалось бы, не мог бы свободно изъясняться. Но на самом деле цель его большой языковой модели не в том, чтобы знать все, а в том, чтобы всегда давать ответ, который собеседник сочтет приемлемым. Он был оптимизирован для этой цели и поэтому очень похож на энергичного школьника, которого спрашивает учитель. На вопрос о том, что было изучено, он способен грамотно изложить свои мысли. В остальном же он путается и хватается за соломинку, демонстрируя при этом безразличие с целью выполнить только необходимый минимум.

Когда речь заходит об использовании платформ ИИ в военной и разведывательной сфере, на ум всегда приходят два толкиеновских имени: Palantir, принадлежащий Питеру Тилю и Дэйву Карпу, и конкурент Anduril, основанный их бывшими коллегами. Программное обеспечение AIP (Artifcial Intelligence Platform) компании Palantir использует большую языковую модель для обработки быстрых команд оперативного значения от любого, даже необученного человека, находящегося в пределах досягаемости прибора. Например, «отправить БпЛА патрулировать этот сектор» или «объединить данные с историей в базе данных». Упрощение происходит на уровне команд и само по себе является революционным. Кабина летчика полна кнопок и переключателей, и требуются годы, чтобы понять, как управлять ими в правильной последовательности и избежать фатальных последствий. Устройство, которому можно просто сказать «взлетай и лети в Рим», или, в нашем случае, выполнить не менее сложную операцию, например «собрать данные из следующих источников», - является примером поразительного упрощения. Машина не решает, что искать, и не разрабатывает стратегий, но работать с ней гораздо проще.

Аналогичным образом на ум приходит множество других примеров использования новых технологий ИИ и машинного обучения в сфере разведки. Если говорить о классических областях применения, то можно начать с радиоэлектронной разведки. Она представляет из себя не только получение и расшифровку сигналов связи, но и соотносение их друг с другом, выявление закономерностей и извлечение данных. И криптоанализ, безусловно, можно ускорить с помощью методов машинного обучения, чтобы содержание можно было дешифровать и понять.

Еще в программе 2012-2016 годов, то есть до нынешней революции в области глубокого обучения, Агентство национальной безопасности (АНБ, американская разведывательная служба, занимающаяся радиоэлектронной разведкой) заявило в качестве своей цели «знать все», применяя подход "тралового лова". Это становится возможным благодаря экспоненциальному увеличению скорости обработки перехватываемого электромагнитного сигнала. Можно «прочитать все», а затем спокойно решить, что из этого может быть полезно. При этом любое сообщение может быть расшифровано автоматически, с помощью методов обработки естественного языка, одним из наиболее продвинутых составляющих которых являются большие языковые модели. Таким образом, становится возможным восстановить смысл сообщения и автоматически связать его с соответствующими событиями.

Давайте вернемся к фантастическим кадрам из кинематографа, например, к сценам прослушки в ГДР в 1980-е в фильме «Жизнь других». Еще несколько лет назад для перехвата одного подозреваемого требовался агент, полностью посвятивший себя работе. Теперь же возможности обнаружения и обработки сигналов настолько велики, что работа по перехвату и расшифровке большинства цифровых сигналов возможна практически в режиме реального времени. Сегодня можно сразу же поместить информацию в нужный контекст и передать её завербованному лицу, если первые ее фрагменты выглядят многообещающе. Именно благодаря сигналу, намного более примитивному, чем современные, удалось перехватить сообщения Бен Ладена, находившегося очень далеко: даже такие слабые сигналы оказались достаточными, чтобы вычислить его местонахождение.

Конечно, не все можно прочитать и перехватить. Но доподлинно никто не знает, какие именно криптографические технологии удалось взломать спецслужбам. Мы также не знаем, как будут работать первые квантовые компьютеры, которые могут сделать многие из существующих средств защиты устаревшими. Хотя и не все, поскольку существуют алгоритмы шифрования, устойчивые к квантовому воздействию. В любом случае, шифрование безопасно, пока не доказано обратное. И лучшие умы спецслужб работают над этой проблемой. Достаточно сказать, что АНБ - буквально работодатель номер один для выпускников математических факультетов в Соединенных Штатах.

Агентурная разведка также в значительной степени подвержена влиянию цифровых технологий. Старый добрый шпионаж, когда агент «управляет» сетью контактов, - это уже, безусловно, «аналоговая» деятельность. Теперь данными и источниками можно обмениваться в цифровом формате, с помощью упомянутых возможностей радиоэлектронной разведки. Платежи можно осуществлять с помощью криптовалют, хотя в публичном блокчейне эти транзакции могут оставлять больше следов, чем можно было бы предположить, как многие выяснили на собственной шкуре.

Каналы вербовки также расширяются в геометрической прогрессии. Доступ к приватной информации потенциальной цели для вербовки может привести к выбору подходящего ей агента с помощью удаленных инструментов, без непосредственного контакта на месте. Такие контрразведывательные мероприятия, как распознавание лиц, дополненное машинным обучением, напротив, позволяют собрать море данных и определить присутствие человека или агента в том или ином месте. Таким образом, агентурная разведка, как и все остальное, развивается на фоне подъема нынешней технологической волны.

Особенно интересны утечки больших данных. Например, та, что произошла в 2015 году и касалась лиц, имеющих доступ к секретным источникам Правительства США. Впоследствии Китай пытался завербовать сотрудников, испытывающих финансовые или семейные трудности. К слову, в 2022 году были похищены 23 терабайта данных (включая мобильный трафик) более чем миллиарда граждан уже Китайской Народной Республики.

Разведка по открытым источникам (OSINT), в терминологии НАТО - “Получение информации из общедоступных источников и другой несекретной информации, имеющей ограниченный доступ или возможности распространения”. Это самый инновационный вид разведки, который практикуется не только в правительственных аппаратах. Все мы производим огромное количество данных, большая часть которых находится в открытом доступе. Многие публикуемые нами фотографии содержат легко узнаваемые объекты на заднем плане или метаданные, которые точно указывают на местоположение. Отдельные дефекты объектива или матрицы могут сделать даже наше устройство идентифицируемым. То, что мы публикуем в социальных сетях, является невероятным источником прямой или косвенной информации о нас.

Существует много специалистов разных уровней квалификации в области разведки по открытым источникам. Есть те, кто использует данные мобильных телефонов военнослужащих, чтобы отслеживать потери военной техники, есть те, кто просматривает российскую социальную сеть «ВКонтакте», чтобы находить информацию о погибших через новости о похоронах. Приложения для фитнес-трекеров оказались особенно чувствительны к частной жизни военнослужащих, которые зачастую очень внимательно следят за своим здоровьем. Так, пробежки по пустыне в глуши, которыми делится программа Strava, раскрыли местоположение секретных баз США на Ближнем Востоке. Похожую ошибку совершил замначальника по мобилизационной подготовке в Краснодаре. Он всегда выходил на пробежку в одно и то же время по одному и тому же четырехкилометровому маршруту, записывая все на Strava, чтобы сравнить время. Однажды снайпер навсегда прервал его тренировки, а под результатами предыдущей пробежки появилась реакция, оставленная, по-видимому, с аккаунта Кирилла Буданова, главы украинской военной разведки. Нет никаких доказательств, что именно он оставил этот след. Если же это подставной аккаунт, то мы стали свидетелями показательного "псайопа", психологической операции против врага.
5. Использование открытых источников для сбора информации о стратегических интересах государств и конфликтах.

Новые технологии позволяют не только добывать все больше материалов из открытых источников, но и быстро изучать и фильтровать данные в беспрецедентных масштабах. Неслучайно крупные державы сегодня стремятся демаркировать свои границы в области социальных сетей, которые, по крайней мере, со времен президентских выборов в США в 2016 году, считаются сферой стратегических интересов. Страны западного блока, включая Японию, в основном используют Facebook и Twitter. Россия использует «ВКонтакте» и Telegram, Китай - Douyu, Bilibili, Weibo и так далее. Разумеется, попытки этих государств сформировать свой кибернетический суверенитет подразумевают и распространение собственного программного обеспечения в других странах.

Объем информации, который можно получить из этих платформ с помощью простых методов поиска данных, поражает воображение. Весьма серьезные агентства журналистских расследований, такие как Bellingcat, широко используют именно открытые источники. Как и любая другая форма разведки, она также подвержена контрразведке. Например, количество фотографий и видео с украинских полей сражений заметно сократилось за последние месяцы - эти материалы всегда проходят через профессионалов из официальных СМИ, которые тщательно очищают их от всего, что может дать преимущество противнику.

Даже в области геопространственной разведки (Geoint, которая основана на сборе и обработке геопространственных данных) стоимость снимков значительно снизилась, а количество спутников позволяет получать гораздо больше данных об одних и тех же координатах и даже различать движущиеся объекты. Важность этого сектора такова, что в США для него выделен целый орган - Национальное агентство геопространственной разведки. Методы машинного обучения позволили американцам следить за операцией России на Украине, наблюдать строительство военных кораблей в китайских портах в режиме реального времени. И, вероятно, эти технологии позволили Москве и Пекину осуществлять нечто подобное в других местах.

Поскольку теперь у каждого из нас есть такая удивительно качественная и бесплатная географическая информационная система, как Google Maps, увлеченные делом пользователи могут добиться просто необыкновенных результатов. Энтузиаст по имени Джейкоб Богл уже много лет изучает спутниковые снимки Северной Кореи в рамках личного проекта под названием AccessDPRK (содержится за счет средств, собираемых на интернет-платформе Patreon), умудряясь очень детально исследовать страну, которая считается самой закрытой в мире. Другие любители совмещают возможности геопространственной разведки и разведки по открытым источникам, чтобы следить за развитием ядерной программы Ирана.

6. Ограничения и риски ИИ: автономное оружие, дипфейки и дезинформация в современном обществе.

Современный уровень технического развития заставляет полагать, что технология практически всемогуща - на самом деле ИИ многого не умеет и, вероятно, никогда этому не научится. И еще больше того, чего, как мы думаем, ИИ достигнет, но пока еще не смог. Уже некоторое время новостной банк держит тема так называемого автономного оружия. Если оно и существует, то все равно снаряжается и отправляется на театр военных действий людьми, которые решают, как, где и против кого воевать. Любые этические дилеммы, которые для алгоритмов принятия решений варьируются от справедливости данныхдо ужасающего акта убийства, все равно прямо или косвенно вытекают из человеческой воли.

Общество страдает от серьезных этнических, экономических и расовых предрассудков. Непонятно, каким образом статистическое устройство, созданное для наилучшего подражания человеческому поведению, должно быть магически освобождено от них, если только вручную не вносить значительные поправки в обучающий набор данных. Решение о применении средств огневого поражения или приведении в боевую готовность оружия, способного в конце концов сделать это самостоятельно, полностью зависит от человека. И пока что ИИ помогает нам быть более эффективными, а не занимает наше место на другом конце моральной дилеммы.

Возникновение дипфейков (способности генерировать «слишком правдивые» изображения или видео, говорить нашим собственным голосом, заставлять нас произносить то, что мы никогда не говорили) называют одним из самых разрушительных направлений технологического развития: в будущем мы больше не сможем отличить реальность от вымысла или дезинформации? Можно утверждать, что этот процесс уже запущен, даже без искусственных фотографий и сгенерированных аудиозаписей. Но, в любом случае, какое-то время еще можно будет различать подобные конструкты, используя правильные технологические инструменты.

Кроме того, часто звучат заявления о том, что большие языковые модели позволяют любому человеку создавать самодельные взрывные устройства или производить нервно-паралитический газ у себя дома. Попытка создать что-то смертоносное с помощью ИИ в настоящее время гораздо опаснее для потенциального террориста, чем для предполагаемых жертв, ведь всё зависит от ключевых слов и ручных исправлений, которые задает сам человек. Но самое главное - у ИИ нет заранее определенной миссии. Он не закладывает бомбы и не знает о взрывчатых веществах и ядах больше, чем учебники химии, по которым обучалась модель. Первоисточники, из которых черпает знания студент университета, изучающий эти предметы, аналогичны, но по этой причине мы пока не закрываем научные факультеты. Напротив, мы всеми силами стараемся увеличить число обучающихся.

Мы еще не достигли той стадии, когда можно штамповать дезинформацию и фальшивые новости в промышленных масштабах и на уровне распространенного точечного мошенничества, несмотря на то, что генеративные модели уже способны создавать тексты высокого качества. Очень влиятельные игроки, такие как Китай, пробовали управлять огромными наборами фальшивых аккаунтов в социальных сетях, но пока без особого успеха.

7. Ограничения ИИ в политическом анализе

В результате, фундаментальной ошибкой было бы верить, что с помощью нового и волшебного технологического потенциала можно просто автоматически генерировать необходимые политические решения, ведь это не так. Успех России в некоторых операциях влияния обусловлен не якобы цифровым мастерством, а тем, что она направила правильное послание определенным особо влиятельным субъектам. Нетерпимость части западной общественности к некоторым международным механизмам экономической глобализации реальна, а не придумана Москвой. Ею она и воспользовалась.

Задача разведки - помочь человеку, принимающему решение, выбрать наилучший вариант, отвечающий национальным интересам. Большая языковая модель и пока еще совершенно гипотетический и сверхчеловечески умный искусственный интеллект общего назначения не смогут определить, что для нас важно в определенный момент времени. Не потому, что мы уникальные и особенные, а потому, что у нас пока нет инструментов для проведения таких политически и психологически сложных мероприятий с ИИ.

ИИ может очень быстро просчитывать сценарии, проверять гипотезы, придумывать альтернативы, сопоставлять данные и устанавливать доверительные интервалы для возможных вариантов развития событий. Но в конечном счете значение будут иметь наши действия и следующий за ними результат. Никого не будет волновать, оправдает ли себя рекомендация группы суперкомпьютеров или шпиона старой школы, который потратил месяцы на поиск информаторов в самых захудалых барах мировых столиц.

Эти два подхода не только не исключают друг друга, но взаимно дополняют: разведка в значительной степени поддерживается технологиями, но искусственный интеллект все еще не заменяет ее. И мы не знаем, сможет ли в принципе заменить.

Вас может заинтересовать

Центр анализа стратегий и технологий "ЦАСТ"
ИНН 7743366760

г. Москва, ул . 3-я Тверская-Ямская, 24, офис 5
+7 (499) 251-90-69
books@cast.ru