Фотограф, ANTHONY WALLACE/AFP via Getty Images
Співзасновник Anthropic Джек Кларк висловив заклик до сповільнення прогресу в сфері штучного інтелекту (ШІ), застерігаючи, що ця технологія наближається до критичної точки, коли вона зможе самостійно розвиватися без людського втручання.
«Мені б хотілося мати можливість зменшити швидкість і натиснути на гальма, — поділився Кларк в інтерв’ю BBC Newsnight. — Зараз виглядає так, ніби в індустрії ШІ є педаль газу, але відсутні гальма».
Він підкреслив необхідність людського контролю над системами ШІ, які стають все більш потужними і мають зростаючий вплив на суспільство, шляхом впровадження державної політики.
«Світу необхідно взяти паузу для роздумів, і нам врешті-решт потрібно розробити нові норми, які забезпечать нашу впевненість у цих системах», — зазначив засновник одного з лідерів у сфері розробки ШІ-систем.
Популярний чат-бот від Anthropic під назвою Claude вже працює на основі коду, 80% якого було створено самою системою. За словами Кларка, досягнення 100% самостійного створення коду можливе протягом двох років, і це «матиме колосальні наслідки».
Кларк не надав детальної інформації про те, як можна створити «педаль гальма» для досліджень та розробок у сфері штучного інтелекту, але провів паралель між нинішнім розвитком ШІ, нафтовим бумом та олігархією початку минулого століття.
«Реакцією суспільства стало створення раціональної політичної та регуляторної бази, яка б вселяла довіру до нафти та її переваг для світу, і означала б, що не потрібно турбуватися про особисті якості тих, хто керує компаніями, — пояснив Кларк. — Ми досягли подібного етапу».
«Я хвилююся за своїх дітей»
З моменту свого заснування генеральним директором Даріо Амодеї, Кларком та іншими керівниками, Anthropic позиціонує себе як компанія, яка відкрито обговорює потенційні ризики, пов’язані зі штучним інтелектом. Компанія навіть вступила у публічну суперечку з міністерством оборони США через побоювання, що розроблені нею інструменти ШІ можуть бути використані для масового стеження за громадянами США та для ведення автономної війни.
«Я стурбований майбутнім своїх дітей, якщо ми як суспільство не проведемо серйозної дискусії про значення наслідків подальшого розвитку штучного інтелекту, — заявив Кларк Newsnight. — Існують потенційно значні переваги. Але також є й ризики».
Кларк додав, що одним із ризиків є потенційний вплив на економіку, оскільки існують побоювання, що технології штучного інтелекту, такі як «агенти» — по суті, автономні боти на основі ШІ, які виконують рутинні завдання, — можуть перебрати на себе певні роботи, тим самим позбавляючи робочих місць живих людей.
Протягом останнього року великі технологічні компанії вже провели значні скорочення персоналу, часто пояснюючи це зростаючою здатністю інструментів штучного інтелекту виконувати роботу сотень або навіть тисяч розробників програмного забезпечення.
Фотограф, Getty Images
Підпис до фото, Джек Кларк вважає, що люди є більш креативними та мають більше кращих ідей, і тому можуть мати перевагу над технологіями штучного інтелекту
Кларк зазначив, що люди, які відзначаються вищим рівнем креативності та генерують більше перспективних ідей, можуть мати перевагу над технологіями штучного інтелекту.
«Залишаються відкриті питання щодо того, чи можуть системи штучного інтелекту демонструвати справжню креативність… наразі немає переконливих доказів цього, — додав він. — В Anthropic ми на даний момент обмежені більше здатністю формулювати хороші ідеї, ніж інженерними можливостями для їх реалізації».
Водночас, Кларк порадив молодим людям, які можуть відчувати, що економіка, заснована на штучному інтелекті, не залишає їм місця, «розвивати хобі» та здобувати гуманітарну освіту.
«Люди, які творчі та здатні мислити масштабно, люди, які багато читають, ті, хто має певні захоплення, — це ті, хто отримає найбільшу вигоду, — сказав Кларк. — Розвивайте свою допитливість, і це окупиться тим, як ви зможете використовувати цю технологію».
Привертання уваги чи бажання попередити світ?
Незважаючи на позицію свого засновника, цього тижня Anthropic позитивно відгукнулася про виконавчий указ президента США Дональда Трампа щодо штучного інтелекту, який містив відносно нечіткі вказівки для компаній. Зокрема, він не передбачав вимоги до розробників ШІ-систем проходити державне тестування на безпеку, залишаючи це на добровільній основі. Великі компанії-розробники ШІ, зацікавлені в розвитку технологій, включаючи Anthropic, OpenAI та Google, також не оголосили про призупинення власних досліджень.
Як бізнес Anthropic демонструє стрімке зростання з моменту свого заснування п’ять років тому, готуючись до виходу на публічний фондовий ринок.
Це може стати одним із перших публічних лістингів (вихід компанії на фондовий ринок та продаж акцій) нової технологічної компанії у сфері ШІ та одним із найцінніших лістингів в історії, оскільки приватні інвестори оцінюють Anthropic майже в 1 трильйон доларів.
Спілкуючись з BBC, Кларк запевнив, що мотивація Anthropic публічно обговорювати зростаючі можливості технології штучного інтелекту не полягає в покращенні її репутації серед платоспроможних клієнтів.
Він просто прагне «повідомити світу про те, що ми спостерігаємо всередині компаній, які працюють з цією надзвичайною технологією».