Використання ШІ для поширення ворожнечі: Розслідування Bellingcat
Відео, опубліковане однією з філій правлячої партії Індії “Бхаратія джаната парті” (БДП), демонструє, як головний міністр Ассаму Хіманта Бісва Сарма “стріляє” у зображення двох чоловіків у мусульманських тюбетейках. “Ассам без іноземців”, – свідчить один із підписів до відео. “Чому ви не поїхали до Пакистану?” – запитує інший.
Одним із чоловіків на фото, у якого, як зображено, стріляв Сарма, був Гаурав Гоґої, лідер Індійського національного конгресу (ІНК) – головного конкурента БДП в Ассамі на майбутніх виборах до законодавчих зборів штату наступного місяця.
Гоґої заявив, що він індуїст, але любить відвідувати різні релігійні місця та дотримуватися їхніх норм. Його фотографували в традиційному мусульманському одязі під час релігійних свят, таких як Ід.
Проте зображення його у відео, поширеному БДП Ассаму, де він одягнений у звичайну майку і тюбетейку, не стосувалося таких випадків.
Bellingcat виявив десятки відео, опублікованих БДП, які використовують генеративний штучний інтелект (ШІ) разом з антимусульманськими та антибангладеськими закликами у прикордонних штатах Ассам і Західна Бенгалія у грудні минулого року, напередодні парламентських виборів, запланованих в обох штатах на квітень.
Bellingcat проаналізував 499 дописів у соціальних мережах із фотографіями та відео, опублікованими на Facebook, Instagram та X офіційними акаунтами БДП у двох штатах за цей період. Було виявлено 194 дописи, які, за визначенням ООН, є мовою ворожнечі: вони дискримінували осіб або спільноти за такими властивими ознаками, як релігія та національне походження. З них 31 (приблизно кожен шостий з дописів з мовою ворожнечі) містив явне використання зображень, створених ШІ.
Діаграма: Galen Reich
Це, схоже, є частиною ширшої тенденції використання політиками та партіями в усьому світі генеративного ШІ для посилення ворожого чи розкольницького контенту, особливо напередодні важливих політичних подій, таких як вибори.
Напередодні торішніх виборів мера Нью-Йорка, офіційний акаунт Ендрю Куомо в X опублікував, а потім видалив, відео, створене ШІ, яке зображувало Мамдані, що їсть рис руками, та чорношкірого чоловіка в кефії, що краде. В Італії кілька опозиційних партій подали скарги до наглядового органу зі зв’язку після того, як партія “Ліга” заступника прем’єр-міністра Маттео Сальвіні опублікувала серію зображень, створених ШІ, які зображували темношкірих чоловіків, що нападають на жінок або поліцейських. У Великій Британії відео від репера, створеного ШІ та фінансованого ультраправою партією Advance UK, з текстами, спрямованими проти мусульман, переглянули мільйони разів.
Кампанія ненависті
Як Ассам, так і Західна Бенгалія межують з Бангладеш. БДП, найбільша політична партія світу, нині при владі в Ассамі, де вибори до законодавчих зборів заплановано на 9 квітня. Західна Бенгалія, яка обирає депутатів 23 квітня, керується партією “Трінамул конгрес” (ТМК).
Напруженість між Індією та Бангладеш посилилася після того, як колишній прем’єр-міністр Бангладеш Шейх Хасіна, яка мала тісні зв’язки з Делі, була усунена від влади у 2024 році та втекла до Індії.
Експерт з міжнародних відносин, розташований у США, Мохаммед Зішан сказав Bellingcat, що “дегуманізуюча та зневажлива” термінологія, яка використовується в Індії для позначення нібито нелегальних бангладеських іммігрантів, зокрема з боку високопосадовців, викликала обурення проти Індії в Бангладеш.
“Ситуація насправді була настільки поганою, що сама Хасіна тонко попереджала уряд Моді у публічних заявах, що внутрішня риторика Індії наражає на небезпеку бангладеських індуїстів, які відчували на собі основний тягар цього обурення”, – сказав Зішан.
Пов’язані статті від Bellingcat
Падіння Шейх Хасіни: кадри з вулиць Бангладеш
Зобаїда Насрін, професор антропології в Університеті Дакки, зазначила, що антимусульманська риторика, посилена лідерами БДП, зміцнює віру в Бангладеш у те, що мусульмани та бенгальці спільно стають об’єктом нападок в Індії.
“Вірусні відео, що містять це повідомлення, мають тенденцію швидко поширюватися в бангладеських ЗМІ та на соціальних платформах, особливо у Facebook, посилюючи сприйняття ворожості та викликаючи антиіндійські настрої або націоналістичну реакцію”, – додала вона.
У грудні, місяці, коли збиралися наші дані, Діпу Дас, індуїстський робітник швейної промисловості, був забитий до смерті на антиіндійському протесті в Бангладеш за нібито образливі висловлювання про іслам.
І хоча адміністрація новообраного лідера Бангладеш Таріка Рахмана прагнула відновити напружені відносини, більшість ворожих дописів у соціальних мережах, які ми бачили в грудні від БДП, були спрямовані проти бангладеських мусульман та/або мусульман бенгальського походження в Індії, демонструючи, як напруженість між двома країнами продовжує впливати на політичні повідомлення у прикордонних штатах Індії.
Аналіз Bellingcat включав загалом 202 дописи від BJP Assam та 297 від відділення BJP West Bengal на їхніх офіційних акаунтах. Ми також розглянули дописи, поширені основними опозиційними партіями БДП – 194 від INC в Ассамі та 357 від TMC у Західній Бенгалії – за той самий період у грудні.
Це включало всі візуальні дописи в соціальних мережах (що містять фотографії або відео) від кожної партії в грудні, за винятком тих, які не містили відкритого політичного повідомлення, наприклад, просто присвячених державним святам. Кожне фото чи відео ми враховували лише один раз, незалежно від того, на скількох платформах воно було поширене.
Хоча всі основні партії, які брали участь у виборах у штатах Ассам та Західна Бенгалія, використовували зображення, створені ШІ, у деяких своїх дописках, здавалося, що особливо висока концентрація ворожих повідомлень була в тих, що опубліковані акаунтами БДП.
В Ассамі ми виявили 28 дописів від БДП з використанням очевидно створених ШІ зображень, 24 з яких містили ворожі повідомлення. З 194 дописів INC, які ми розглянули за грудень, 41 містив зображення, створені ШІ, але жоден з них не містив ворожих повідомлень.
У Західній Бенгалії ми знайшли 14 дописів БДП, які містили явні ознаки використання ШІ, сім з яких були ворожими. Ми також виявили 15 дописів від чинної ТМК, які містили зображення, створені ШІ, але жоден з них не відповідав визначенню мови ворожнечі.
Підтримайте Bellingcat
Ваші пожертви безпосередньо сприяють нашій здатності публікувати новаторські розслідування та викривати неправомірні дії по всьому світу.
Зробити внесок
Коли з ним зв’язалися для коментарів, речник БДП Ассаму Рупам Ґосвамі не відповів прямо на запитання щодо загального використання ШІ партією, але сказав, що вони не публікували жодних фотографій Гоґої, створених ШІ. “БДП не опускається до такого рівня”, – сказав він Bellingcat.
Щодо відео зі “стріляниною навиліт”, Ґосвамі спочатку заявив, що відповідального було покарано і виключено з партії. Однак, коли його запитали, чи правду каже Сарма, що він повторно опублікує відео з тими, кого він зобразив як “бангладешців”, Ґосвамі відповів: “[бангладешців] потрібно повністю придушити”.
БДП Західної Бенгалії не відповіла на численні запити Bellingcat про коментарі телефоном та електронною поштою.
Важливо зазначити, що в міру вдосконалення технології генеративного ШІ стає все важче виявляти зображення, створені ШІ. Наш ручний підрахунок зображень, створених ШІ, включав лише дописи, які мали очевидні ознаки генеративного ШІ, такі як неприродно гладкі текстури та кілька людей з однаковими обличчями. Тому можливо, що в нашому наборі даних були інші зображення, де генеративний ШІ використовувався більш тонко.
Однак Джойоджіт Пал, професор інформатики Мічиганського університету, сказав Bellingcat, що якість цих візуальних матеріалів, чи виглядали вони реалістично, не була пріоритетом.
“Політики в Індії зрозуміли, що соціокультурні рушії дезінформації є найважливішими для виборів, тому вони так наполегливо говорять про речі до тієї міри, що почали не дбати про форму замість суті. Це виглядає погано? Не має значення”, – сказав він.
Для виборців, за словами Пала, важливіше було те, чи вірять вони вже в наратив, що міститься у відео, яке генеративний ШІ допомагає створювати швидше: “ШІ допомагає закріпити поляризовані думки, надаючи вам контент, з яким ви вже вирішили взаємодіяти”.
На запитання про використання ШІ ІНК, речник партії Аман Вадуд сказав, що очевидно, що деякі відео, які вони опублікували, були зроблені за допомогою ШІ, і не було наміру вводити в оману.
“ШІ може бути як руйнівним, так і творчим. Ми використовуємо його в творчий спосіб, а не руйнівний. Ми не порушуємо гідність людей, ми не звинувачуємо людей помилково”, – сказав він.
ТМК не відповіла на численні запити Bellingcat про коментарі телефоном та електронною поштою до моменту публікації.
Зображення бенгальських мусульман як “іноземців”
Найбільша категорія ворожих повідомлень, яку Bellingcat спостерігав у дописках БДП, була спрямована проти бангладеських мусульман або мусульман бенгальського походження, називаючи їх “інфільтраторами” або “іноземцями”. Ми нарахували 66 таких дописів від відділень БДП в Ассамі та Західній Бенгалії за грудень, вісім з яких містили очевидні зображення, створені ШІ.
Мусульмани бенгальського походження часто стереотипно сприймаються як “нелегальні іммігранти” у штаті, хоча члени цієї громади живуть в Індії з кінця 1800-х років.
Минулого року БДП депортувала тисячі осіб, яких вважали незаконними мігрантами – серед яких, за повідомленнями, були індійські громадяни-мусульмани – до Бангладеш. Правозахисні групи назвали депортації незаконними та дискримінаційними, а також такими, що відбулися без належної правової процедури.
Одне відео, що посилається на цю тему, показує зображення, створені ШІ, протестів проти “нелегальної інфільтрації” в Ассамі, з підписом, що закликає людей “прокинутися”, інакше країна “перетвориться на Бангладеш”.
В іншому відео використовується справжня зйомка минулих заворушень в Ассамі разом із зображеннями мусульманських чоловіків. Пісня на фоні звинувачує їх у захопленні “землі Ассаму” і показує зображення, створені ШІ, “ассамців”, тобто тих, хто не одягнений у стереотипний мусульманський одяг, які плачуть.
Обидва відео використовують релігійні маркери для проведення розмежування між “інфільтраторами” – чоловіками в тюбетейках або лунгі, пов’язаними з мусульманами бенгальського походження – та “громадянами” в не мусульманському одязі.
Одяг часто використовується індуїстськими ультраправими як візуальний код ідентичності та поглиблення релігійного розколу. У 2019 році прем’єр-міністр Нарендра Моді сказав про протести проти суперечливого закону про громадянство, що “відповідальних за насильство можна ідентифікувати за їхнім одягом”.
У ворожих дописках, які бачили Bellingcat, як реальні, так і створені ШІ зображення опозиційних діячів – зокрема Гоґої – були показані разом з повідомленнями, що натякали на те, що вони підтримують “іноземців” або “інфільтраторів”.
Центр вивчення організованої ненависті (CSOH) також зазначив у звіті за 2025 рік про зображення, створені ШІ, та ісламофобію в Індії, що індуїстські ультраправі політики та засоби масової інформації роками використовували та зміцнювали троп про мусульман як “інфільтраторів”.
“Зображення, створені ШІ, на ці теми зміцнюють асоціації між мусульманською ідентичністю та незаконністю, посилюючи ксенофобські та ісламофобські стереотипи. Роблячи це, вони відіграють потужну роль у виправданні виключної політики та нормалізації дискримінації проти мусульман”, – йдеться у звіті.
“Врятуйте індусів”
Зеніт Хан, аналітик даних, який працював над звітом CSOH, зазначив, що пропаганда, створена ШІ, часто тісно пов’язана з поточними політичними подіями, а її вплив залежить від “правильного вибору часу”, особливо коли “люди емоційно заряджені”.
Насильство проти індуїстської меншини в Бангладеш використовувалося БДП для висловлення занепокоєння щодо безпеки індуїстів в Індії.
Через кілька днів після вбивства Даса, відділення БДП штату Ассам опублікувало відео із зображенням його обличчя – за винятком того, що воно було змінено за допомогою ШІ, щоб показати сльози, що стікають по його щоках. “Врятуйте індусів”, – свідчив текст, що супроводжував відео.
Дописи відділення БДП Західної Бенгалії також, здавалося, зображували мусульман як злочинців або загрозу. Відео, стилізоване під телешоу “Дивні дива”, викликало тривогу щодо “перевернутого” стану під керівництвом нинішнього уряду.
Чоловік зображений, як його переслідують чоловіки в тюбетейках. Стрілки позначають їх як “Раліб”, “Галіб” і “Чоліб” – гра слів з мусульманськими іменами, що закінчуються на “-ліб” – на випадок, якщо тюбетейки залишали будь-яку двозначність щодо їхнього мусульманського зображення.
ІНК подав скаргу до поліції у вересні минулого року проти БДП за поширення відео, створених ШІ, спрямованих проти Гоґої та мусульманської громади, а також іншу скаргу щодо відео, де Сарма зображений “стріляючим” у двох чоловіків “навиліт” у лютому.
Речник ІНК Ассаму Вадуд сказав, що, наскільки йому відомо, жодних дій щодо поліцейських скарг партії не було вжито.
Дослідник дезінформації Бхарат Наяк сказав Bellingcat, що відповідальність за контроль за новими типами контенту завжди лежала на технологічних платформах.
“Цільова точка не може змінюватися. Це завжди була технічна проблема”, – сказав він.
Коли ця відповідальність ігнорується, додав Наяк, результатом є відсутність підзвітності. “Якщо ви використовуєте старі відео з інших країн як нові, будуть люди, які вам протистоятимуть. Але відео, створені ШІ, можна поширювати без контексту лише для поширення ненависті – як-от показ людей у тюбетейках – і питання “коли, де, як” зникають.”
Як Meta, що володіє Facebook та Instagram, так і X мають правила щодо ворожої поведінки.
Meta також оголосила у 2024 році, що почне додавати “AI info” до більшої кількості контенту, визначеного як створений ШІ, тоді як деякі користувачі X помітили подібну функцію, запроваджену на платформі минулого місяця. Лише п’ять візуальних матеріалів INC, створених ШІ, які ми ідентифікували – і жодного від TMC чи БДП – мали дисклеймер “створено ШІ”.
Bellingcat звернувся до Meta та X за коментарями щодо того, чи порушують виявлені нами дописи їхні умови використання щодо ворожої поведінки або маркування контенту, створеного ШІ. Речник Meta заявив, що вони переглядають позначений контент і “вживуть відповідних заходів щодо будь-яких порушень наших правил”. На момент публікації X не відповіла.
Калім Ахмед з Discord Community Bellingcat сприяв проведенню досліджень для цієї статті.
Bellingcat є некомерційною організацією, і можливість виконувати нашу роботу залежить від вашої цінної підтримки. Якщо ви бажаєте підтримати нашу роботу, ви можете зробити це тут. Ви також можете підписатися на наш канал Patreon тут. Підпишіться на нашу розсилку та стежте за нами у Bluesky тут, Instagram тут, Reddit тут та YouTube тут.
Джерело новини: www.bellingcat.com