Підпис до фото, Одна з цих фотографій, яку тримає докторка Клер Сазерленд, — це діпфейк, створений штучним інтелектом
Психологиня доктор Клер Сазерленд тримає дві великі світлини. Одна містить портрет австралійського вченого, який керує міжнародним проєктом, а інша — це підробка, згенерована штучним інтелектом.
Штучний інтелект став настільки майстерним у створенні переконливих образів, що розрізнити, що є справжнім, а що ні, стає все складніше.
Але чи можливо навчити людей визначати зображення людини, яке насправді було створено машиною?
Це питання досліджували Сазерленд з Абердинського університету та її колега з Австралії. Однак, перш ніж ми розкриємо відповідь, спробуйте пройти цей тест і зафіксуйте свій результат.
Зображення з позначкою AI (Artificial Intelligence) створені штучним інтелектом.
Світлини з написом Real є автентичними.
Якщо вам було складно, ви не самотні.
Раніше комп’ютерно згенеровані образи, які часто використовувалися шахраями, було значно легше ідентифікувати, оскільки штучний інтелект допускав помилки, наприклад, додавав зайвий палець або щось подібне, що виглядало явно дивно.
Але штучний інтелект вчиться на своїх помилках.
"Штучний інтелект стає надто досконалим, і шахраї можуть уникати використання зображень з очевидними недоліками", – пояснила професорка Емі Давел.
Вона — це жінка з волоссям до плечей на зображенні, яке тримає Сазерленд. Портрет чоловіка — це фальшивка. Давел очолює Лабораторію емоцій та облич Австралійського національного університету.
Вона керує командою дослідників в Австралії, Канаді та Великій Британії, щоб з’ясувати, чи можна навчити людей розпізнавати підробки, створені штучним інтелектом. Відповідь, принаймні поки що, ствердна, але навчитися визначати фальсифікати штучного інтелекту вимагає більш тонкого підходу.
Інтуїція щодо фальшивок
Сазерленд керує дослідженням, що проводиться в Університеті Абердіна (Велика Британія).
За її словами, вони помітили, що вже можуть інтуїтивно відрізняти справжні обличчя від тих, що створені штучним інтелектом, просто дивлячись на них.
"Тож ми подумали: було б справді цікаво дізнатися, чи зможемо ми навчити цьому й інших людей", — зазначила вона.
Для проведення експериментів було створено набір із тисяч зображень облич за допомогою StyleGAN3 — одного з найреалістичніших генераторів зображень на основі штучного інтелекту.
Учасники проходили тестування до та після навчання.
На що слід звертати увагу?
Дослідники навчали учасників експериментів зосереджуватися на шести аспектах сприйняття:
Симетрія — ШІ часто не вдається відтворити ті особливості, що роблять нас людьми, як-от ледь опущена повіка чи асиметрична усмішка. "Якщо щось виглядає надто ідеальним, щоб бути правдою, — найімовірніше, це неправда".
Пропорційність — схожий критерій. Надмірно великі носи чи незграбні вуха не є типовими для зображень, створених за допомогою технології діпфейк.
Привабливість — "Обличчя, згенеровані ШІ, зазвичай виглядають привабливішими, — пояснює Сазерленд. — Це більш суб’єктивний, естетичний аспект, але ШІ часто створює приємні на вигляд обличчя".
Відмінність (у сенсі унікальності) — "Йдеться про те, що саме вирізняє обличчя в натовпі. Обличчя від ШІ схильні наближатися до усереднених параметрів, тому вони виглядають дещо типовими, без яскравої індивідуальності".
Емоційність — "Обличчя від ШІ зазвичай виглядають менш емоційно виразними, — каже Сазерленд. — Вони демонструють менше емоцій".
Запам’ятовуваність — зображення облич, створені ШІ, "часто менше запам’ятовуються — їх важко запам’ятати".
Штучний інтелект також зазвичай гірше відтворює обличчя людей, що не належать до європеоїдної раси, а також обличчя літніх людей чи дітей, оскільки значна частина даних, на яких він навчається, стосується молодих білих людей.
Деякі з цих порад можуть здаватися схожими й дещо розпливчастими, але саме в цьому й полягає суть.
Рідко можна натрапити на безпомилкову ознаку, що одразу викриє підробку, створену штучним інтелектом. Натомість ідеться про те, щоб навчитися розпізнавати характерні риси таких зображень та розвинути відповідну інтуїцію.
Дослідники виявили, що якщо людям показувати зображення (як створені ШІ, так і справжні), а потім повідомляти, де яке, їхня здатність їх розрізняти значно покращується — навіть за такий короткий термін, як одна година.
З’ясувалося, що учасники зазвичай підвищували точність розпізнавання приблизно з 40% до 80%.
Деяким вдавалося досягти майже 100-відсоткової точності.
Автор фото, Nightingale
Підпис до фото, Дослідники виявили, що навчання може допомогти людям розпізнавати діпфейки, створені штучним інтелектом, — як-от цей
За іронією долі, те, що робить людський мозок при розпізнаванні зображень, схоже на те, як працюють генеративні моделі ШІ. Дайте їм достатньо даних для навчання, і з часом їхня точність покращиться, навіть якщо ми можемо не до кінця розуміти, як вони це роблять.
Дослідження також розглядали, наскільки впевнено учасники розпізнавали зображення ШІ. Попередні дослідження вказували на те, що люди були надмірно впевнені в тому, що можуть розпізнавати обличчя ШІ, причому найвпевненіші люди робили найбільше помилок.
Після навчання дослідники виявили, що учасники стали більш впевненими у розпізнаванні діпфейків.
"Це корисно, – каже Сазерленд. – Тому що якщо ви не знаєте, коли ви маєте рацію чи ні, ви насправді нічого не можете зробити з цією інформацією".
Гаразд, тож ви готові пройти ще один тест?
Як ви впоралися?
Відчуваєте себе впевненіше?
Якщо відповідь негативна, не картайте себе. Як у світі людей, так і у світі генеративного штучного інтелекту, практика веде до досконалості – або принаймні трохи наближає її до досконалості.
Існує багато вебсайтів, де, за бажанням, ви можете вдосконалити свої навички.
Чому важливо навчитися розпізнавати підробки, створені штучним інтелектом?
Очевидна небезпека полягає в шахрайстві.
Глобальна консалтингова фірма Deloitte прогнозує, що втрати від шахрайства з використанням штучного інтелекту лише в США можуть зрости до понад 50 мільярдів доларів наступного року, порівняно з 16 мільярдами доларів у 2023 році.
У звіті наведено приклад шахрайства, коли співробітник гонконгської фірми перерахував шахраям 25 мільйонів фунтів стерлінгів після відеодзвінка з відтворенням його керівника у форматі діпфейк.
Ще одним зловісним використанням технології діпфейків є політичне шпигунство. Ще у 2019 році розслідування Associated Press виявило, що профіль у LinkedIn, включаючи фотографію, що належить жінці на ім’я Кеті Джонс, може бути вигаданим. Джонс видавала себе за спеціалістку з Росії та Євразії, яка мала зв’язки з відомими вашингтонськими аналітичними центрами та політичними колами. У звіті AP стверджувалося, що вона насправді була діпфейком, створеним російською розвідкою, яка успішно зв’язалася з високопоставленими політичними помічниками США та посадовцями національної безпеки.
Автор фото, Linkedin
Підпис до фото, Розслідування Associated Press довело, що Кеті Джонс, яка у профілі LinkedIn фігурувала як спеціалістка з Росії, була діпфейком, створеним російською розвідкою
В Австралії один політик пропонує вимагати, аби політичний контент, створений штучним інтелектом, обов’язково розкривали та позначали “водяним знаком”.
Справедливості заради треба сказати, що науковці, серед яких і Сазерленд, також бачать деякі позитивні аспекти використання цієї технології, такі як можливість швидко та дешево показати, як може виглядати давно зникла дитина в різному віці.
Вона каже, що якщо люди "займаються цим сумлінно та знають, що штучний інтелект використовувався, це потенційно може бути дуже корисним для творчих професій".
Тож добра новина полягає в тому, що ми ще не живемо в антиутопічному світі, де неможливо відрізнити, що реальне, а що згенероване комп’ютером.
Погана новина полягає в тому, що моделі штучного інтелекту, можливо, вже “прочитали” опубліковані академічні дослідницькі роботи. І продовжують навчатися.