В сети недавно появились провокационные видео – дипфейки, нацеленные на украинских беженцев и тех, кто им помогает. Расследование русской и украинской служб Голоса Америки показало, что для их создания, вероятно, используется искусственный интеллект, а сами видео могут быть частью российской информационной операции в онлайне под названием "Матрешка".
Видео распространялись как в новой социальной сети Bluesky, так и на платформе X (бывший Twitter). Голос Америки обнаружил, что в рамках кампании запустили минимум два дипфейка, которые имели целью изобразить украинских беженцев жадными и неблагодарными, а также распространили фейковые материалы о том, что авторитетные западные журналисты утверждают, что Украина, а не Россия, распространяет неправду о войне.
Одно видео в начале похоже на телевизионный репортаж об украинской беженке-подростке и ее опыте обучения в частной школе в Соединенных Штатах. Затем видеоряд переключается на кадры переполненных школьных коридоров и упаковок крэка (наркотика), а голос за кадром звучит так, будто девушка называет американские государственные школы "опасными" и озвучивает обидные стереотипы об афроамериканцах.
"Я понимаю, что [в частной школе] достаточно дорого, – говорит она. – Но было бы несправедливо, если бы мою семью заставили платить за мою безопасность. Пусть это делают американцы".
Этот сюжет является фейком. Только его первая часть – кадры о девушке-подростке – настоящая. Пренебрежительный голос девушки за кадром во второй части, вероятно, был создан с помощью искусственного интеллекта.
Второе видео, нацеленное уже на самих украинских беженцев, начинается с реальных новостных кадров. В них украинка выражает благодарность за пожертвование одежды и поддержку, которую Дания предоставила беженцам. Затем видео переключается на общие кадры и вероятный дипфейк: голос женщины начинает рассказывать, что украинские беженцы якобы вынуждены жить в маленьких квартирах и носить подержанную одежду.
Мы не публикуем ни одного из этих видео, чтобы защитить личности беженцев, изображенных в дипфейках. Однако отмечаем, что оба использовали кадры из репортажей, которые были украдены из авторитетных международных СМИ.
Согласно проекту Antibot4Navalny, учетной записи в сети X, которая исследует российские информационные операции, эти видео отображают новейшую стратегию российской онлайн-кампании по дезинформации. Ее техника – подмена высказываний человека путем имитации его голоса и она – новая для "Матрешки", рассказали Голосу Америки в Antibot4Navalny.
"За последние несколько недель почти все видео группы были построены по этой схеме", – написала исследовательская группа. В прошлом году @antibot4navalny впервые раскрыл масштабы деятельности группы "Матрешка". Однако разоблачение не остановило ее деятельность. В последние недели появились похожие признаки организованной дезинформации группы не только в Х, но и в соцсети Bluesky, которая, по утверждениям администраторов этой платформы, имела к концу декабря прошлого года около 26 млн пользователей.
На Bluesky (помимо того, что на ней дезинформаторы имитируют контент из СМИ) в некоторых пророссийских постах нужные Кремлю нарративы "продвигают" профессора университетов с мировыми именами. Их голоса также клонированы с помощью AI.
Например, одно видео, якобы содержащее аудио основателя Bellingcat Элиота Хиггинса, утверждает, что вторжение Украины в российскую Курскую область является блефом Киева.
"Весь мир наблюдает за смертельными спазмами Украины, – якобы говорит Гиггинс. – Нечего дальше обсуждать".
В другом видео Шаян Сардаризаде, старший журналист BBC Verify, якобы говорит, что "Украина создает фейки, чтобы организации, проверяющие факты, обвиняли Россию". Затем он описывает это как часть "глобальной мистификации".
На самом деле, оба видео являются дипфейками, созданными по той же формуле, что и предыдущие, нацеленные на беженцев.
Хиггинс рассказал Голосу Америки, что вся аудиоимитация его собственного голоса выглядит дипфейком. Он предполагает, что цель видео состояла в том, чтобы привлечь к нему внимание фактчекеров и заставить их повысить аудиторию фейка.
"Я думаю, что это больше было нацелено на повышение их статистики, чтобы [те, кто участвуют в дезинформации] могли продолжать доить российское государство, получая деньги на продолжение такой деятельности", – отметил Хиггинс в комментарии Голосу Америки, полученному по электронной почте.
Сардаризаде не ответил на запрос о комментариях к этой публикации.
****
Насколько эффективны дипфейки? Хотя понять потенциальный ущерб, нанесенный дипфейком, нетрудно, сложнее оценить их влияние и объем охвата.
Пост в сети X с фальшивыми видео беженцев набрал более 55 тыс. просмотров. Это существенно, считает Ольга Токарюк, старший аналитик Института стратегического диалога. При этом, по ее словам, всегда трудно со 100%-ной корреляцией доказать влияние этих дезинформационных кампаний на политику.
"Это еще не вирусный контент, но уже и не маргинальный", – говорит она.
Antibot4Navalny считает, что российские участники дезинформационных кампаний активно распространяют сообщения в X, используя другие контролируемые учетные записи, но видят дипфейки пока все равно очень мало реальных людей. И даже если большое количество реальных людей действительно посмотрело дипфейки, это не обязательно означает, что видео достигло целей, которые ставил Кремль.
"Всегда трудно со 100%-ной корреляцией доказать влияние этих дезинформационных кампаний на политику", – замечает Ольга Токарюк.
Эксперты также говорят, что стратегия подделки настоящих сообщений СМИ и нацеливания их именно на украинских беженцев не является чем-то новым.
К примеру, после смертоносного ракетного удара России в апреле 2022 года по железнодорожному вокзалу Краматорска в Украине Кремль создал фальшивый репортаж якобы от имени BBC, обвинив в ударе украинцев, напоминает Роман Осадчук, специалист Лаборатории цифровых криминалистических исследований "Атлантического совета". В этот же период, отметил он, Россия также распространяла в Молдове дезинформацию, которая имела целью настроить местное население против украинских беженцев.
Как RT делает пропаганду на украинском языке для украинцев: видео Смотри в оба:
"К сожалению, беженцы – очень популярная мишень для российских кампаний дезинформации, они не только нападают на тех, кто принимает беженцев, но и на тех, кто в Украине", – сказал Осадчук Голосу Америки. Эксперт говорит, что, когда такие операции по дезинформации ориентированы на украинскую аудиторию, их целью часто является создать противостояние между теми, кто уже выехал из Украины, и теми, кто остается в стране.
Быстрое распространение искусственного интеллекта в последние несколько лет привлекло повышенное внимание к проблеме поддельных видео и изображений, которые создаются с его помощью. Особенно – когда эти технологии используются для создания изображений сексуального характера без согласия. Исследователи подсчитали, что более 90% дипфейков в интернете откровенно сексуальны: их использовали как против обычных женщин, так и против знаменитостей.
Но дипфейки также применяются для дезинформации политиков и кандидатов на государственные должности. Правда, исследователи из Microsoft Theat Analysis Center обнаружили, что "полностью сгенерированные" видео мировых лидеров часто неубедительны и их легко опровергнуть. Но эти же эксперты также пришли к выводу, что аудио дипфейки часто более эффективнее.
Четыре видеоролика, распространенных "Матрешкой", в которых используются дипфейки, демонстрируют, что опасность ждет не только политиков, в отношении которых генерируются откровенные изображения. Роман Осадчук подчеркивает, что если ваше изображение в принципе доступно в интернете, вы мало что можете сделать, чтобы полностью защитить себя: с современными технологиями всегда есть риск "распространения любой информации публично, включая голос, внешность или фотографии".
Белль Торек, адвокат, специализирующаяся на технической политике и гражданских правах, говорит, что люди, образы которых используются в дипфейках без их согласия, часто испытывают чувство обиды, унижения, беспомощности и страха.
"Осознание того, что их имиджем манипулируют для распространения лжи или ненависти, может усилить травму, – подчеркивает юрист. – И в этом случае, я думаю, последствия будут еще сильнее для этих сообществ [беженцев], которые и так страдают от вынужденного перемещения и пережитого насилия".
