Як екстремісти використовують штучний інтелект для пропаганди: аналіз The Guardian

Екстремістські та терористичні угруповання активно використовують генеративний штучний інтелект для поширення пропаганди. Вони клонують голоси, автоматично перекладають і синтезують мовлення для адаптації ідеологічних матеріалів різними мовами.

Як повідомляє The Guardian, такі технології суттєво підсилюють охоплення й ефективність радикальних меседжів.

"Інструменти генерації голосу та перекладу стали новим ресурсом для екстремістських рухів — від неонацистських груп до ісламістських організацій. Вони дозволяють відтворювати промови відомих ідеологів та поширювати їх у зручному мультимедійному форматі", — зазначили медійники.

За словами старшого аналітика Tech Against Terrorism і наукового співробітника Центру Суфана Лукаса Веббера, впровадження терористами та екстремістами перекладу на основі штучного інтелекту знаменує собою масштабну еволюцію в стратегіях цифрової пропаганди. Він зауважив, що раніше радикальні мережі покладалися на людських перекладачів або примітивний машинний переклад. Втім, на сьогодні з розвитком передових генеративних інструментів штучного інтелекту, ці групи здатні створювати безшовні, контекстуально точні переклади.

"Серед неонацистських ультраправих рухів особливо поширеним стало клонування голосу для відтворення промов Адольфа Гітлера англійською мовою. Деякі з таких відео, опубліковані у X, Instagram і TikTok, зібрали десятки мільйонів переглядів", — зазначає видання.

Дослідження Глобальної мережі з питань екстремізму та технологій (GNet) свідчать, екстремісти використовують сервіси на кшталт ElevenLabs. Вони завантажують архівні промови часів Третього рейху для створення англомовних аудіоверсій з імітацією голосу Гітлера. Неонацистські акселераціоністські групи використовують такі інструменти для оновлення власних гіпернасильницьких матеріалів. Наприкінці листопада вони створили аудіокнигу з посібника з повстанської боротьби американського неонациста Джеймса Менсона, під назвою "Облога".

"Впродовж останніх кількох місяців я брав участь у створенні аудіокниги "Облога" Джеймса Мейсона. Використовуючи власну голосову модель Мейсона, я відтворив кожну розсилку та більшість доданих газетних вирізок, як в оригінальних опублікованих розсилках", — повідомив неонацистський інфлюенсер, який поширює контент у X і Telegram.

Аналітик проекту боротьби з екстремізмом Джошуа Фішер-Берч застерігає, що саме культовий статус "Облоги" робить її особливо небезпечною. За його словами, посібник пропагує насильство самотніх осіб і є обов’язковою для читання кількома неонацистськими групами, які відкрито підтримують тероризм.

Медійники додають, що проісламські медіа в зашифрованих мережах також активно залучають ШІ для перетворення текстових матеріалів на аудіо. За словами Веббера, це дозволяє швидко трансформувати пропаганду в захопливі мультимедійні наративи. Джихадистські угруповання застосовують ШІ-переклад для адаптації ідеологічних матеріалів з арабської мови для глобальної аудиторії. Раніше таку роль виконував особисто Анвар аль-Авлакі, чий голос, за оцінками Центрального розвідувального управління Сполучених Штатів Америки, був основним чинником впливу "Аль-Каїди".

На платформі Rocket.Chat, яку активно використовує "Ісламська держава", у жовтні з’явилося відео з японськими субтитрами, створеними за допомогою технологій штучного інтелекту. Як писав проісламський користувач, японську мову було б надзвичайно важко перекласти, зберігаючи при цьому її красномовство. Він зазначив, що використовує штучний інтелект лише за деякими винятками щодо аудіо.

У The Guardian пояснюють, що на сьогодні не лише "Ісламська держава", а й широкий спектр інших радикальних угруповань активно послуговуються безплатними інструментами ШІ, такими як ChatGPT. 

Нагадаємо, раніше дослідники встановили, що чат-боти зі штучним інтелектом можуть впливати на політичні погляди користувачів. Водночас моделі, які переконують найефективніше, часто допускають значну кількість неточностей