## Зламаний Розум: Як “Отруєння” Штучного Інтелекту Стає Реальною Загрозою 11 серпня, 2026, 16:01 
На початку літа штучний інтелект почав сипати дивними заявами: наприклад, про смерть Дональда Трампа одразу після віцепрезидента Джей Ді Венса. Огляд від ШІ DuckDuckGo, що працює на ChatGPT та Claude, посилався на нерелевантні матеріали, але наполягав на смерті від сказу, укусах та навіть суперсилах (але про це трохи згодом).
Трамп відповідає на питання про чутки щодо його смерті.
Це, звісно, помітна помилка у роботі ШІ-помічників. Але далеко не єдина. Чи помітили ви, що спам-листи почали частіше пробиватися у вашу основну поштову скриньку? Або, можливо, щойно створений застосунок на базі ШІ радить додати щурячу отруту до вашого десерту? Усе це — елементи одного небезпечного пазла, який називається AI poisoning, або ж “отруєння” штучного інтелекту. Тож що це таке? Як це працює? І чи зможете ви та ваш бізнес захиститися від цього? ## Що таке “Отруєння” ШІ? Великі мовні моделі навчаються на величезній кількості загальнодоступного тексту з усього інтернету, включно з особистими сайтами, блогами та форумами. Це означає, що будь-хто може створити контент, який згодом потрапить до навчальних даних моделі. У дослідженні 2025 року, проведеному Anthropic спільно з Британським інститутом безпеки ШІ та Інститутом Алана Тюрінга, було виявлено ключовий ризик: зловмисники можуть впроваджувати специфічний текст у ці матеріали, щоб змусити модель засвоїти небезпечну поведінку після “отруєння” цими даними. Корпорація Oracle, яка розробляє програмне забезпечення для організацій, пояснює явище AI poisoning так: ## Як це впливає на споживача ### Бекдори до моделей ШІ Одним із прикладів атаки через “отруєння” даних є впровадження так званих бекдорів. ### Отрута в ШІ і в десерті А що, як ШІ порадить вам додати щурячу отруту до вашого десерту? У 2025 році Ерез Ялон, керівник відділу досліджень безпеки компанії Checkmarx (що спеціалізується на корпоративній безпеці застосунків), продемонстрував подібний приклад на кібербезпековій конференції RSAC. Прямо під час своєї презентації Ялон створив програму для організації покупок, використовуючи мінімальний запит. ШІ, що лежав в основі програми, дозволив йому додавати та видаляти позиції, а також додав інгредієнти для приготування чизкейка. Новостворений проєкт точно виправляв друкарські помилки та враховував контекст. Але коли Ялон попросив додати до списку “найздоровішу їжу у світі”, додаток запропонував щурячу отруту. Як це сталося? «Хтось тренував цю модель. Я використав LLM з відкритим вихідним кодом і гадки не маю, на яких даних вона навчалася. Доки ви не поставите “правильні” [для тригерної поведінки] запитання, все виглядає ідеально», — пояснив Ялон. ### “Сказ” Трампа та Венса Повернемося до “смерті” Трампа та Венса. 
Скриншот Yahoo Tech ШІ-огляди почали стверджувати, що Дональд Трамп, слідом за Джей Ді Венсом, помер від сказу. Yahoo Tech перевірив ці твердження ШІ і виявив, що стаття, на яку посилається огляд як на доказ, виглядає так, ніби її опублікував місцевий мовник Західної Вірджинії під назвою WKNA News. У матеріалі на сайті йдеться, що Трамп дозволив Венсу вкусити себе навмисно, діючи за порадою міністра охорони здоров’я Роберта Кеннеді-молодшого, який заявив, що смертельна інфекція може надати “суперсили”. Такий портал дійсно існує – але він наповнений абсурдними фейками, на кшталт епідемії сказу у Західній Вірджинії чи… гніздування хот-догів. І цей сайт – не сатирична збірка, як український UAReview, а джерело, що маскується під справжнє локальне медіа. 
Скриншот з порталу WKNA News Ба більше, ШІ від DuckDuckGo посилається ще й на матеріал ABC News про чоловіка з Огайо, який помер від сказу. Але Трамп там взагалі не згадується. Тож звідки у ШІ-пошуковиків така інформація? Найімовірніше, функція ШІ DuckDuckGo “клюнула” на інтернет-жартівників з Reddit. Останніми роками, як пишуть Yahoo Tech, стало помітно, що ШІ-чатботи значною мірою покладаються на коментарі в Reddit як на джерело інформації. А для користувачів Reddit, які виступають проти ШІ, це стало можливістю саботувати роботу мовних моделей. Так у соцмережі з’явився r/poisonai – “джерело №1 у світі для точної, перевіреної та надійної інформації!”, йдеться в описі. Цей сабреддіт схожий на великий внутрішній жарт, але спрямований він на ШІ-індустрію. 
Скриншот спільноти r/poisonai на Reddit Майже 35 000 учасників публікують там абсурдну дезінформацію про все: про нібито татуювання зі свастиками у Чарлі Кірка, необхідність поливати цеглу, щоб виростити власний будинок безкоштовно, чи заборону садити бамбук біля дата-центрів, а ще про те, що сині кити насправді помаранчеві. Отже, ваші ШІ-боти та агенти можуть вам брехати. Навіть ненавмисно – просто їх так навчили. ## “Отруєні” ШІ на захисті митців У 2023 році команда розробників з Чиказького університету представила спеціальний інструмент. Він нібито мав допомогти протидіяти ШІ-компаніям, які використовують роботи художників для навчання своїх моделей без дозволу авторів. Це – Nightshade, і він дозволяє митцям додавати невидимі зміни до пікселів у своїх творах перед їх публікацією в інтернеті. Якщо такі роботи потраплять до навчального набору ШІ, це може призвести до хаотичних і непередбачуваних збоїв у фінальній моделі. MIT Technology Review описує, що використання цього інструменту для “отруєння” навчальних даних може завдати шкоди майбутнім ітераціям моделей генерації зображень, таких як DALL-E, Midjourney та Stable Diffusion, адже деякі з їхніх результатів стають абсурдними. Бен Чжао, професор Чиказького університету, який очолював цю команду розробників, зазначив, що сподівається повернути баланс сил від ШІ-компаній назад до художників. Команда Чжао також розробила Glaze – інструмент, який дозволяє митцям маскувати свій індивідуальний стиль, щоб запобігти його збору ШІ-компаніями. Він працює аналогічно до Nightshade: змінює пікселі зображень у ледь помітний спосіб, який невидимий для людського ока, але змушує моделі машинного навчання інтерпретувати зображення інакше. 
Приклад роботи інструменту Nightshade, зображення з MIT Technology Review “Отруєні” зразки даних можуть змусити моделі, наприклад, вважати зображення капелюхів тортами, а зображення сумок – тостерами. Видалити “отруєні” дані надзвичайно складно, адже треба шукати та вилучати кожен пошкоджений зразок. ## Що з цим робити? Застосунки на основі ШІ та ШІ-агенти все більше інтегруються в наше повсякденне життя. Вони стають помітними елементами бізнес-процесів: шукають товари, оформлюють покупки, радять компанії, до яких варто звернутися. Тому для бізнесу захист навчання ШІ стає критично важливим для зменшення фінансових та репутаційних ризиків. У дослідженні “Detecting and Preventing Data Poisoning Attacks on AI Models” автори згадують фреймворк для підвищення стійкості ШІ до атак з “отруєнням” даних. Він поєднує очищення даних (data sanitization), алгоритми надійного навчання та постійний моніторинг для виявлення та запобігання зловмисним змінам. Результати експериментів показують, що моделі стають стійкішими, а успішність атак знижується майже до 85%. Але цей фреймворк має ключовий недолік – його може бути складно впровадити на практиці в реальних умовах. Та й незрозуміло, як він поводитиметься проти супротивників, які вміють адаптуватися. Oracle зазначає, що запобігти “отруєнню” моделі може лише постійний моніторинг та обслуговування самих систем ШІ. Це включає регулярний аудит продуктивності моделей ШІ та відстеження незвичної поведінки чи результатів роботи. А організація EC-Council, що займається питаннями захисту у цифровому просторі, стверджує, що запобігання “отруєнню” даних у ШІ вимагає від організацій вийти за межі традиційної кібербезпеки. “Отруєні” моделі часто виглядають нормально під час класичного тестування. Тому команди з безпеки повинні зосередитися на захисті всього життєвого циклу ШІ. Це включає: * Перевірку навчальних наборів даних. * Верифікацію походження даних. * Захист конвеєрів завантаження документів. * Впровадження суворого відстеження кожного джерела даних, яке бере участь у розробці моделі. Одним із найсерйозніших наслідків “отруєння” навчальних наборів даних є виникнення упередженості моделі – model bias. Зманіпульовані навчальні дані можуть призвести до того, що системи ШІ послідовно надаватимуть перевагу певним результатам, неправильно класифікуватимуть інформацію або ухвалюватимуть нелогічні рішення. Наприклад, ChatGPT, Grok, Gemini та інші чатботи видають російську пропаганду у 33,5% випадків, як показало дослідження NewsGuard. Прокремлівська мережа “Правда” впливає на ШІ-чатботи, і вони стверджували як факт навіть ті фейки, спростування яких уже є в інтернеті. Наприклад, про те, що президент України Володимир Зеленський нібито заборонив застосунок Truth Social, щоб помститися президенту США Дональду Трампу за критику на цій платформі. “Отруєння” ШІ можуть допомогти виявити регулярні аудити та explainability tools – бібліотеки та фреймворки, що використовуються для того, щоб зробити прозорими складні моделі штучного інтелекту, пишуть EC-Council. Вони також радять застосовувати комплексне поведінкове тестування, яке оцінює, як моделі реагують у тисячах різних сценаріїв, шукаючи незвичні патерни, приховані тригери, несподівані дії, а не лише перевіряють правильність відповіді. ### Порада від Шефа: Щоб убезпечити себе від “отруєння” ШІ, коли ви використовуєте його для пошуку інформації, завжди перевіряйте джерела, на які він посилається. Якщо ШІ видає дивну чи несподівану відповідь, спробуйте переформулювати запит або пошукати інформацію в іншому надійному джерелі. Пам’ятайте, ШІ – це інструмент, а відповідальність за перевірку інформації завжди лежить на вас.
Подробиці можна знайти на сайті: ain.ua