Андрій Русанов Новинар “Межі” з чотирирічним досвідом кураторства контенту. Захоплюється всім, про що пише, особливо комп’ютерами. 14 липня, 16:27 0
Виконавчий директор Microsoft Сатья Наделла висловив своє занепокоєння стосовно безпеки корпоративної інформації при тренуванні зовнішніх систем штучного інтелекту. В своєму блозі він не лише окреслив наявну проблему, але й запропонував шляхи її вирішення.
Сатья Наделла підтвердив думку, яку раніше висловив керівник Palantir Алекс Карп, який критикував комерційні підходи сучасних компаній-розробників ШІ, що співпрацюють з бізнесом. Суть критики полягає в тому, що для покращення ефективності ШІ-моделей, компанії використовують власні дані, процеси та досвід для їхнього навчання. Це, по суті, призводить до витоку конфіденційної інформації, яка в майбутньому може бути використана їхніми конкурентами.
“По суті, ви оплачуєте [штучний] інтелект двічі: один раз грошовими коштами, а інший – чимось більш цінним: вашими власними відомостями, які ви змушені надати, щоб зробити його корисним. Чим кращої продуктивності ви очікуєте від моделі, тим більше цих відомостей вам доведеться розкрити”, – зазначає Наделла.
Роздуми керівника Microsoft базуються на парадоксі, сформульованому нобелівським лауреатом з економіки Кеннетом Ерроу: “Цінність інформації для покупця невідома до моменту її отримання. Але коли він з нею ознайомлюється – він фактично отримує її безплатно”. Згідно з Наделлою, штучний інтелект створює протилежну ситуацію: покупець фактично безкоштовно надає власні знання, щоб отримати доступ до придбаної послуги.
“З плином часу зростає інформаційна нерівність. Продавець дізнається все більше про вас під час використання придбаного, тоді як ви отримуєте мінімальне уявлення про те, що продавець отримує натомість”.
Система патентів частково вирішує проблему парадокса Ерроу, дозволяючи автору ідеї повідомити про неї, але не розголошувати деталі. Наделла стверджує, що протилежна ситуація також вимагає аналогічної до патентів системи.
“Організаціям необхідна чітка межа довіри для об’єднання людського та цифрового капіталу. Місце, де дані організації, відстеження, оцінки, адаптовані вагові коефіцієнти та пам’ять накопичуються та вдосконалюються спільно. І це має бути непроникна межа, яку ніщо не може подолати без дозволу. Компанії повинні вимагати права використовувати результати роботи моделей для точного налаштування та/або навчання власних моделей. Я вважаю, що кожна компанія має право узгоджувати моделі зі своїми стандартами відповідальності”.
Наделла розробив перелік рекомендацій, які можуть допомогти компаніям захистити свої конфіденційні дані при використанні ШІ. Серед них – створення власних систем оцінки (evals) для тестування та моніторингу моделей, визначення критеріїв їхньої належної роботи, формування власних навчальних платформ на базі орендованих ресурсів, а також зменшення залежності робочих процесів від сторонніх моделей.
Читайте також: Microsoft замінює моделі OpenAI та Anthropic у деяких своїх застосунках власними рішеннями
За матеріалами: mezha.ua