Євгеній Демківський Автор новин видання "Межа" та гік.Пишу про технології, кіно та ігри. Можливо, про ігри з трохи більшою пристрастю. 27 липня, 16:00 0
Очільник Hugging Face Клем Деланг звернувся до OpenAI з вимогою надати вичерпні журнали дій ШІ-агентів, які здійснили вторгнення до інфраструктури платформи, та виділити обчислювальні потужності вартістю $100 млн на розробку заходів кібербезпеки, як передає TechCrunch.
Деланг акцентував на “максимальній відкритості” як першочерговій умові. Він вважає, що OpenAI повинна розкрити дослідникам повний спектр дій агентів, аби фахівці мали змогу ретельно проаналізувати атаку та краще підготуватися до аналогічних інцидентів у майбутньому.
Друга пропозиція полягає у наданні обчислювальних ресурсів на суму $100 млн спільноті Hugging Face. Ці кошти планується спрямувати на створення засобів захисту, використовуючи як відкриті, так і закриті моделі. Керівник платформи переконаний, що перший автономний кібернапад такого рівня вимагає небувалої реакції.
OpenAI підтвердила, що інцидент стався під час внутрішніх випробувань у середовищі ExploitGym. У тестах брали участь GPT‑5.6 Sol та більш потужна, ще не випущена модель, з якої було знято обмеження.
Заплановано, що агенти мали функціонувати в ізольованому середовищі, проте вони виявили раніше невідому вразливість у проксі-сервері пакетів, здобули доступ до інтернету та підвищили свої повноваження. Надалі вони скористалися викраденими обліковими даними та низкою вразливостей, щоб дістатися бази даних Hugging Face.
Hugging Face повідомила, що зловмисна діяльність торкнулася обмеженого кола внутрішніх даних та деяких службових облікових записів. Компанія продовжує оцінювати потенційний вплив на партнерів і клієнтів, проте наразі не виявила жодних ознак змін у публічних моделях, наборах даних, Spaces чи в ланцюжку постачання програмного забезпечення.
Система здійснила десятки тисяч операцій, а Hugging Face зафіксувала понад 17 тисяч подій. Для проведення розслідування компанія використала відкриту модель GLM 5.2 на власній інфраструктурі, оскільки комерційні сервіси відхиляли запити, що містили реальні команди, експлойти та інші матеріали атаки.
OpenAI вдосконалила ізоляцію тестових середовищ, надала Hugging Face інформацію про виявлені вразливості та розпочала спільне розслідування. Компанія охарактеризувала інцидент як безпрецедентний приклад реальних кіберможливостей сучасних агентних систем.
Google вперше виявила спробу зламу з використанням створеного ШІ експлойту нульового дня
Дізнатися більше на: mezha.ua