Використання штучного інтелекту для керування криптопроєктами зрощує їхній ризик кібератак. Таку думку висловив співзасновник Ethereum Віталік Бутерін.
«Якщо ІІ застосовувати для розподілу коштів між проєктами, учасники системи неодмінно спробують обійти алгоритм, вимагаючи „повного виведення грошей“ будь-якими доступними методами», — пояснив він.
Ця заява стала відповіддю на демонстрацію Ейто Міямури, творця платформи EdisonWatch, який показав, як нова функція ChatGPT може використовуватись для витребування конфіденційних даних користувачів.
Масове впровадження ІІ-інструментів для створення торгових ботів та інвестиційних агентів у криптогалузі закономірно спричинило дискусії про повне автоматизоване управління протоколами на базі цієї технології.
Як альтернативу засновник Ethereum запропонував модель інфофінансів (info finance), розроблену ще у 2024 році. Вона передбачає формування відкритого ринку конкуруючих ІІ-моделей, які оцінюються людьми-експертами.
«[Така система] гарантує одночасну різноманітність моделей у реальному часі та вмотивованість їхніх творців і незалежних аудиторів оперативно виявляти й усувати недоліки», — підкреслив Бутерін.
Раніше програміст критикував тенденцію до створення «надмірно автономних» ІІ-систем і закликав збільшувати рівень людського нагляду для покращення безпеки.
Реакція спільноти
Криптоспільнота поділилася на прибічників та противників позиції Бутеріна. Один із користувачів навіть звинуватив його в подвійних стандартах.
«Виходить, ви пропонуєте не делегувати суспільні ресурси ІІ, бо люди його зламають і зроблять упередженим? Хіба це не лицемірство?», — написав коментатор.
Інші учасники дискусії висловили протилежні аргументи. Деякі наголосили, що обмеження функцій ІІ смарт-контрактами може покращити гнучкість управління:
«Якщо дії ІІ чітко прописані в смарт-контрактах, система управління стає прозорішою. Це схоже на мультипідписні гаманці, але з додатковою перевіркою логіки рішень».
Частина експертів поставила під сумнів практичну цінність моделі інфофінансів для фінансування суспільних ініціатив. Засновник EigenLayer Шрірам Каннан акцентував на складності оцінки суб’єктивних рішень.
«Умовні ринки не є ідеальним рішенням — реальна цінність (що варто підтримувати) часто не має однозначного підтвердження в майбутньому», — зауважив він.
Проблему зламів Каннан назвав тимчасовою, впевнений, що розробники знайдуть її вирішення «досить швидко».
Як ChatGPT використовують для витребування даних?
10 вересня OpenAI інтегрувала в ChatGPT інструменти Model Context Protocol, що дозволяють ІІ взаємодіяти з іншими програмами як автономному агенту.
Міямура охарактеризував оновлення як «серйозний ризик для безпеки». На його думку, зловмисники можуть розсилати фішингові календарні запрошення зі шкідливими інструкціями.
Коли користувач попросить чат-бот перевірити розклад, система автоматично прочитає інфекційний код навіть без додаткових дій. Це дає змогу атакуючим «перехопити» ІІ та використати його для пошуку приватних листів або викрадення даних.
Міямура наголосив, що кожне оновлення ChatGPT потребує ручного підтвердження.
«Втома від постійних рішень — реальний виклик. Люди часто бездумно натискають „підтвердити“, довіряючи ІІ. Але технологію можна обманути фішинговими методами й примусити видати дані найпростішими способами», — попередив експерт.
Раніше зловмисники вже використовували Grok для публікації заборонених посилань у X.
Команда з ІІ в Ethereum Foundation
15 вересня провідний розробник другої за капіталізацією криптовалюти Давид Крапіс анонсував створення ІІ-відділу в Ethereum Foundation.
«Наша мета — перетворити Ethereum на ключову платформу для взаємодії між штучним інтелектом та машинною економікою», — заявив він.
Крапіс виділив дві головні цілі нової команди:
- розробити механізми для автономної взаємодії ІІ-агентів і роботів у проведенні платежів та дотриманні правил без посередників;
- створити децентралізовані, перевірені та цензуростійкі альтернативи, щоб уникнути концентрації контролю над ІІ у вузького кола корпорацій.
Найближчим часом команда завершить роботу над стандартом ERC-8004 для транзакцій ІІ-агентів, який презентують на конференції Devconnect у листопаді.
Источник: cryptocurrency.tech
