Автор фото, @Dr.Rafael Costa/YouTube
Підпис до фото, Рафаель Коста — один із лікарів, згенерованих штучним інтелектом для YouTube
82-річна Селі Феррейра переглядала відео на YouTube, коли на екрані з’явився лікар, який порадив їй їсти фрукти задля збереження зору. Ця рекомендація здалася їй цілком доречною.
Однак те, що вона побачила, не було справжнім медичним каналом, а лікар, якого вона бачила, не існував у реальності — його образ та голос були створені за допомогою штучного інтелекту (ШІ).
Хоча YouTube позначив відео як створене ШІ, воно здобуло майже 300 000 переглядів і сотні коментарів. І попри наявність такого маркування, пані Феррейра повідомила BBC, що була переконана, ніби слухає реального медичного спеціаліста.
Це не ізольований випадок: розслідування виявило 29 португаломовних каналів, які експлуатують лікарів, створених ШІ. Разом ці відео набрали щонайменше 70 мільйонів переглядів.
Цей контент має глобальне поширення – BBC News Brasil виявила щонайменше 50 каналів YouTube, які навчають користувачів створювати відео з лікарями на базі ШІ такими мовами, як португальська, англійська, хінді, іспанська, французька, італійська, польська, німецька та турецька.
Творці контенту вважають старшу аудиторію прибутковою нішею, припускаючи, що ці люди мають більше вільного часу для перегляду відео та достатньо коштів для придбання товарів, рекомендованих “лікарями”.
Один справжній лікар, чиє зображення було використано для створення подібних відео, застерігає, що поради фальшивих медиків можуть мати серйозні наслідки та “завдати смертельної шкоди людям похилого віку”.
Google, якій належить YouTube, заявила, що до контенту, створеного ШІ, застосовуються правила платформи, які забороняють медичну дезінформацію, що може призвести до серйозної шкоди у реальному світі.
Автор фото, Celi Ferreira
Підпис до фото, Селі Феррейра стверджує, що сприймала лікаря з відео як реального
Схема таких відео є простою: глядач бачить особу в білому халаті, що викликає довіру, а спокійний синтезований голос попереджає, що звичайний продукт, ліки чи щоденна звичка можуть непомітно загрожувати здоров’ю старших людей. Після цього пропонується засіб, який нібито досі залишався поза увагою.
У деяких випадках такі лікарі є повністю вигаданими. В інших – штучний інтелект відтворює обличчя, голос або навіть особу реальних медиків без їхньої згоди. В обох сценаріях у глядачів може сформуватися враження, що фахівець надає слушні медичні поради.
Згідно зі звітом бразильської некомерційної журналістської організації CTRL+Z, існує 29 португаломовних каналів, які використовують лікарів, згенерованих ШІ. BBC News Brasil проаналізувала ці канали, щоб виявити інші подібні ресурси та спільні риси, зокрема схожі назви.
Ми знайшли пані Феррейру після аналізу приблизно 27 000 коментарів до відео на цих YouTube-каналах та застосування методології відбору для виявлення повідомлень користувачів про зміни у поведінці.
У десятках коментарів літні люди розповідають, що послухалися порад лікарів зі штучним інтелектом: розпочали самолікування вдома або припинили прийом раніше призначених медикаментів.
В одному з таких коментарів користувач, який стверджує, що йому 85 років, розповідає, що замінив омепразол — препарат для зниження кислотності шлунку — на батат. В іншому випадку 77-річна жінка повідомляє, що не відвідувала лікаря вже три роки, і висловлює подяку лікарю зі ШІ за пораду щодо хвороби Альцгеймера.
Автор фото, YouTube
Підпис до фото, На YouTube можна знайти навчальні матеріали, що демонструють, як створювати контент про здоров’я, орієнтований на літніх людей, багатьма мовами, використовуючи штучний інтелект
У навчальних відео на YouTube, виявлених BBC News Brasil, творці радять формулювати заголовки та сценарії, що викликають страх і відчуття терміновості, аби переконати глядача, ніби йому загрожує безпосередня небезпека для здоров’я.
Творці контенту отримують прибуток як від переглядів на YouTube, так і від продажу електронних книг та товарів, що рекламуються на їхніх каналах. Один із таких авторів із Бразилії, Жеф Коїмбра, зазначив, що творці можуть заробляти до 6 тис. доларів на місяць.
В іншому відео він продемонстрував, як використовувати тривожний тон і “створювати напругу”, навівши такий приклад: “Перед сном будьте обережні з цим. Слідкуйте, щоб не померти уві сні”.
Після того, як з ним зв’язалася редакція BBC News Brasil, доступ до одного з відео було обмежено для широкого загалу.
У своїй заяві Коїмбра зазначив, що показані ним канали, які використовують ШІ, були лише ілюстраціями, а не його власними проєктами. Він пояснив, що навчає створенню інформаційного контенту за допомогою ШІ, але не такого, що мав би замінити медичних фахівців, і не мав наміру заохочувати порушення правил платформи чи інших стандартів.
“Не мають співчуття”
Ми виявили щонайменше п’ять YouTube-каналів, які без дозволу використовували образ відомого бразильського лікаря для поширення тривожних заяв про здоров’я та просування природних методів лікування, що нібито можуть замінити медикаменти, призначені лікарями.
Еліо Бразілейро, який веде популярний YouTube-канал із майже 300 000 підписників, подав скаргу на ці відео адміністрації платформи та звернувся до поліції Сан-Паулу.
Окрім неправомірного використання його зображення, лікаря найбільше турбувала можливість того, що літні глядачі можуть припинити прийом призначених ліків, вважаючи, що ці поради походять від нього.
“Ті, хто це створює, позбавлені співчуття, — заявив він BBC News Brasil. — Спроби заробити гроші таким шляхом можуть завдати смертельної шкоди людям похилого віку”.
Найбільший ризик полягає в тому, що пацієнти можуть застосовувати неефективні методи, які можуть погіршити стан або навіть відтермінувати встановлення діагнозу, зазначає Хайме Заладек Гіл, гастроентеролог з лікарні у Сан-Паулу.
“Необхідне належне медичне обстеження та краща діагностична мережа, а не просто відео, де стверджується, що щось одне вирішить усі ваші проблеми”, — зауважує він.
Автор фото, YouTube/Dr. Hélio – MedInformações
Підпис до фото, Згенерований штучним інтелектом аватар Еліо Бразілейро використовується на фейкових каналах, з якими він не має жодного зв’язку
Бразильські юристи зазначають, що творцям контенту, які неправдиво видають себе за медичних працівників, загрожує кримінальна відповідальність.
Компанія Google, власник YouTube, заявила, що правила відеоплатформи поширюються і на контент, створений штучним інтелектом, та забороняють розповсюдження медичної дезінформації, яка може призвести до серйозної шкоди в реальному житті.
У компанії зазначили, що спеціальні позначки допомагають глядачам зрозуміти, коли контент було змінено або згенеровано.
Після того, як BBC News Brasil звернулася до компанії щодо результатів дослідження CTRL+Z, YouTube видалив деякі з найбільших каналів, охоплених цим аналізом. Сукупно вони мали близько 41 мільйона переглядів.
Тим часом Селі Феррейра висловила бажання навчитися краще розпізнавати контент в інтернеті.
“Як на мій вік, я досить вправно користуюся комп’ютером, але все ще не вмію відрізнити те, що створено штучним інтелектом, від реального”, — зізнається вона.