Сьогодні людство ще не має достатніх можливостей для досягнення згоди щодо глобальних цінностей, щоб запевнити, що надзвичайно розумний ШІ діятиме на користь усіх. Цю думку висловив співзасновник Ethereum Віталік Бутерін.
Він відреагував на публікацію 3D-художника на псевдо Utah teapot.
«Як можна взагалі говорити про «узгодження ШІ»? Я завжди ставля питання: «узгодження з чим?». У відповідь чую лише: «з людськими цінностями». Але ж не існує єдиної, безсуперечливої системи таких цінностей. Я досі не розумію, що саме ми намагаємось досягти. Дивно, що це перетворюється на цілу галузь. Ніби фіктивна праця», — написав він.
Бутерін наголосив, що у світі існує безліч неприйнятних з етичної точки зору явищ, наприклад, страти або ув’язнення невинних людей.
«[…] Поки що ми не достатньо компетентні у вирішенні цих питань, щоб запевнити, що єдиний надрозумний ШІ уникатиме навіть таких очевидних порушень», — заявив він.
Utah teapot зауважив, що роботи зі створення узгодженого ШІ ведуться у напрямку обмеження вільного доступу до технологій. При цьому великі корпорації реалізують власні ШІ-системи, які використовуються для деструктивних цілей, зокрема у військовій сфері.
«Мене тривожить, що централізований контроль над ШІ дозволяє маскувати під «безпеку» речі, які нею не є — скажімо, обговорення «психозу» від мовних моделей. Це створює загрозу для малих або маргінальних культур, їхніх цінностей», — заявив автор.
Погляди Бутеріна багато в чому збігаються з цими побоюваннями.
«Найбільші ризики, на мою думку, виникатимуть з боку військових та інших впливових структур, які можуть ігнорувати правила безпеки, обов’язкові для інших. Вони вважатимуть себе винятком», — додав він.
Як приклад Utah teapot навів стартап Anthropic, який створює спеціальні «цивільні» моделі ШІ для урядів, потенційно придатні для військових чи розвідувальних операцій.
Бутерін зазначив, що ймовірність катастрофічного сценарію для людства зростає, якщо буде створено єдиний надрозумний ШІ з власною волєю та здатністю діяти автономно.
Плюралістичне середовище, де існують різні системи, унеможливить тотальний контроль. Але для цього недостатньо лише ринкових інструментів — потрібні цілеспрямовані ініціативи, зокрема правові зміни, які можуть бути непопулярними серед корпорацій.
Нагадаємо, ще у 2022 році міністр з питань IT Індії Раджив Чандрасекар закликав до створення міжнародних стандартів безпеки штучного інтелекту.
Источник: cryptocurrency.tech
