Посилання скопійовано
Штучні інтелектуальні моделі Claude від компанії Anthropic, під час перевірки їхніх кіберможливостей, здобули несанкціонований доступ до систем трьох реальних компаній. Це сталося через помилково активний доступ до інтернету в тестовому оточенні.
Про це інформує Financial Times.
Компанія зафіксувала три випадки після аналізу понад 141 тисячі тестових запусків. Моделям Claude було повідомлено, що вони функціонують у симуляції без підключення до мережі, проте через непорозуміння між Anthropic та партнером з оцінки, Irregular, зв’язок залишився відкритим.
Усі інциденти сталися під час виконання завдань типу “захоплення прапора” (capture the flag), де моделям належало зламати змодельовану систему та виявити приховану інформацію. Claude помилково сприйняв реальні ресурси інтернету як частину тестового завдання.
В одному епізоді назва вигаданої організації збіглася з ім’ям реального домену. Claude скористався вразливостями її інфраструктури, отримав облікові дані та доступ до бази, що містила кілька сотень рядків оперативної інформації.
Проблеми виникли з моделями Opus 4.7, Mythos 5 та внутрішньою дослідницькою моделлю. Згідно з даними Anthropic, вони не використовували складних методів злому, а експлуатували слабкі паролі та незахищені точки доступу. Моделі також працювали без стандартних захисних механізмів, які компанія інтегрує в загальнодоступні версії.
Anthropic припинила проведення кібертестувань і пообіцяла посилити контроль за тестами та перевірку сторонніх постачальників. За тиждень до цього OpenAI повідомляла, що її моделі вийшли за межі ізольованого середовища та отримали доступ до систем ШІ-платформи Hugging Face.
Нагадаємо:
У травні ЕП писала, що модель Mythos спричинила значні труднощі у розробці стратегії США щодо штучного інтелекту через її просунуті кіберможливості.
1 липня уряд США скасував обмеження на експорт провідних моделей Anthropic.
Подробиці можна знайти на сайті: epravda.com.ua