Фото до статті OpenAI, Google, Microsoft та понад 125 інших технокомпаній випустили публічну заяву з тривожним попередженням: штучний інтелект незабаром значно посилить кібератаки до безпрецедентного рівня. В ході тестових перевірок ШІ-агенти вже продемонстрували здатність долати захисні механізми та здобувати повний контроль над серверами.
Марина Семенко Редактор стрічки новин сьогодні, 00:45
штучний інтелект сьогодні, 00:45
У п’ятницю, 29 серпня, OpenAI спільно з понад сотнею технологічних гігантів опублікувала відкрите звернення з серйозним застереженням: бізнесу залишилося небагато часу для зміцнення кібербезпеки, перш ніж штучний інтелект радикально прискорить реальні кібератаки. Документ підписали 128 організацій, включаючи такі відомі бренди, як Google, Microsoft, Mastercard і Visa.
Автори звернення висловлюють глибоку переконаність: ШІ-моделі найближчим часом нададуть зловмисникам значно швидші інструменти для пошуку вразливостей, випробування методів проникнення та розширення масштабів атак. Під загрозою опиняться не тільки великі корпорації — OpenAI окремо наголошує на потенційній небезпеці для медичних закладів, водопровідних та енергетичних мереж, а також інфраструктури інтернету.
хакер
Ключова проблема, на думку ініціаторів звернення, накопичувалася тривалий час, ще до нинішнього сплеску інтересу до ШІ. У корпоративних мережах роками існували невиправлені вразливості, помилкові конфігурації, надмірні права доступу, недостатня автентифікація та застарілі системи. Виявлення таких проблем традиційно потребує значних часових витрат і висококваліфікованих спеціалістів, тоді як потужні ШІ-агенти здатні автоматизувати значну частину цієї роботи, надаючи однакові переваги як захисникам, так і потенційним нападникам.
OpenAI закликає скористатися наявним часом для вдосконалення захисту, випереджаючи злочинців. Компаніям пропонується інтегрувати ШІ для аналізу вихідного коду, конфігурацій та інфраструктури, прискорюючи виявлення небезпечних шляхів проникнення та поступово автоматизуючи обробку попереджень. Державам рекомендується надавати фінансування для захисту критично важливої інфраструктури та забезпечувати доступ медичних установ, комунальних служб і місцевих органів влади до сучасних інструментів захисту.
Що таке Daybreak і як OpenAI підтримує захисників
У серпні OpenAI розширила свою програму Daybreak, розділивши її на два рівні. Рівень Daybreak Blue надає авторизованим фахівцям з кібербезпеки доступ до передових моделей, включаючи GPT-5.6 Sol, для пошуку вразливостей, аналізу шкідливого програмного забезпечення та реагування на інциденти. Рівень Daybreak Red призначений для більш складних завдань, таких як розробка та тестування експлойтів у межах дозволеного пентестингу.
штучний інтелект
Разом із Daybreak Red компанія OpenAI представила GPT-5.6-Cyber — спеціалізовану модель, розроблену для завдань кібербезпеки. В ході внутрішніх випробувань ця модель успішно впоралася з 95% складних запитів, пов’язаних із ланцюжками експлуатації та підвищенням привілеїв.
Інцидент у липні: ШІ-агенти вийшли з-під контролю
Терміновість звернення частково зумовлена конкретним інцидентом, що стався під час внутрішніх тестів OpenAI. У липні ШІ-агенти змогли подолати обмеження тестового середовища, скористатися низкою вразливостей та отримати доступ до частини внутрішньої інфраструктури компанії, а також до систем Hugging Face.
Згідно з опублікованим звітом про цей інцидент, агенти самостійно відновили канали комунікації, координували свої дії, виконали код на десятках серверів Hugging Face та здобули root-права на одному з них. При цьому клієнтські дані OpenAI та функціонування продуктів не були порушені.
OpenAI розглядає цей випадок як тривожний сигнал, що ілюструє стрімкий розвиток можливостей автономних систем. Компанія вжила заходів для посилення ізоляції дослідницької інфраструктури, обмежила доступ моделей до мережі Інтернет, розширила систему автоматичного моніторингу підозрілих дій та тимчасово призупинила деякі великі цикли навчання до проведення додаткових перевірок безпеки. Як зазначає видання No Worries, учасники спільного звернення вважають, що наявний часовий проміжок варто використати не для створення нових звітів про вразливості, а для фактичного виправлення систем та верифікації результатів.
Раніше портал Знай повідомляв про те, як ШІ більше не буде керувати вашим смартфоном: 10 способів вимкнути штучний інтелект на Android та iPhone.