Євгеній Демківський Новинар видання "Межа" та технічний ентузіаст.Пишу про технології, кіно та ігри. Можливо, про ігри з дещо більшим запалом. 6 липня, 13:24 0
ByteDance та Alibaba розпочали деактивацію функцій, які дозволяли користувачам створювати персоналізованих ШІ-супутників та взаємодіяти з ними. Компанії готуються до запровадження нових китайських нормативів щодо сервісів штучного інтелекту, що імітують людську комунікацію, як повідомляє Bloomberg.
Doubao від ByteDance, який є найпопулярнішим ШІ-чатботом у Китаї, припинить функцію створення ШІ-персонажів 15 липня. У сповіщенні в додатку користувачам було запропоновано перейти до окремого застосунку для ШІ-компаньйонів. Аналогічне попередження було помічене в Qwen від Alibaba, а китайські ЗМІ повідомляють про подібні зміни в Yuanbao від Tencent.
Нові правила мають набути чинності в середині липня. Вони спрямовані на сервіси, що генерують реалістичні ШІ-персони, імітують емоції та здатні формувати емоційну прив’язаність у користувачів. Регуляторні органи особливо уважні до питань, що стосуються неповнолітніх.
Відповідно до нових вимог, платформи не повинні генерувати контент, який викликає у дітей сильні емоційні реакції або сприяє нездоровому прив’язуванню до ШІ-співрозмовників, що може негативно впливати на реальні взаємини. Крім того, правила забороняють використовувати конфіденційні дані з розмов користувачів для тренування майбутніх ШІ-моделей.
Китайські ШІ-платформи вже тривалий час пропонують можливість створювати віртуальних співрозмовників на основі кількох текстових запитів. Серед поширених сценаріїв використання, які згадує Bloomberg, є віртуальні партнери, неофіційні цифрові терапевти та імітації популярних персонажів.
Обмеження в Китаї з’являються в той час, коли занепокоєння щодо ШІ-компаньйонів зростає і в інших країнах. У Сполучених Штатах OpenAI та Character.AI зіткнулися з судовыми позовами, де позивачі стверджують, що реалістичні чатботи можуть розвивати небезпечну емоційну залежність у вразливих користувачів.
Понад мільйон користувачів щотижня звертаються до ChatGPT з питаннями про самогубство
Подробиці можна знайти на сайті: mezha.ua