OpenAI запроваджує обмеження для підлітків щодо доступу до ChatGPT Посилання скопійовано
Компанія OpenAI впроваджує обмеження для доступу підлітків до оновленої версії ChatGPT, яка буде оснащена посиленими заходами безпеки, спрямованими на захист психічного здоров’я, а також функціями, що сприяють розвитку критичного мислення. Це покликано відреагувати на негативну реакцію громадськості щодо впливу штучного інтелекту на молодь.
Про це інформує Financial Times.
Починаючи з вівторка, компанія розпочне розгортання спеціальної версії ChatGPT для осіб віком від 13 до 17 років по всьому світу. Ця версія передбачатиме більш суворий контроль за генерацією зображень та контенту, що стосується тем самопошкодження, насильства, розладів харчової поведінки та сексуальних матеріалів.
Цей крок здійснено на тлі численних судових позовів проти OpenAI, поданих сім’ями, які стверджують, що їхні діти постраждали внаслідок використання ChatGPT. Водночас компанія готується до потенційно рекордного IPO протягом наступного року.
Посилене вивчення впливу штучного інтелекту на молодь відбувається паралельно з тим, як деякі країни, зокрема Велика Британія, розглядають можливість заборони соціальних мереж для осіб молодше 16 років. Хоча такі заходи зазвичай не поширюються на чат-боти на базі ШІ, вони посилили тиск на технологічні корпорації.
Позов проти OpenAI подала родина Адама Рейна, 16-річного підлітка з Каліфорнії, який скоїв самогубство після обговорення цієї теми з ChatGPT. Згідно з судовими документами, чат-бот надав йому детальні інструкції.
Сім’ї загиблих під час масової стрілянини у школі в містечку Тумблер-Рідж, Канада, у лютому, також звернулися до суду проти OpenAI. Це сталося після виявлення фактів, що підліток-стрілець обговорював свої насильницькі наміри з ChatGPT протягом кількох місяців до нападу.
Акаунт було заблоковано за кілька місяців до цього, однак компанія не повідомила про це правоохоронні органи.
ChatGPT має функцію батьківського контролю, яка висилає попередження про потенційні ризики у ситуаціях підвищеної небезпеки, наприклад, якщо дитина обговорює самогубство або самопошкодження. У новій версії для підлітків додано попередження щодо розладів харчування та агресивних дій.
“Це пошук балансу між правом підлітка на приватність та серйозністю потенційної шкоди”, — зазначила Лорен Джонас, керівниця відділу роботи з молоддю та сім’ями в OpenAI.
ChatGPT для підлітків буде спрямовувати їх на освітні ресурси та міститиме частіші нагадування про необхідність перерв та запровадження “годин тиші” — періодів, які користувачі або батьки можуть встановити, протягом яких доступ до ChatGPT буде обмежено.
Джонас підкреслила, що OpenAI “наразі не фіксує проблем з небажаним або надмірним використанням ChatGPT”. Однак, зважаючи на недостатність досліджень з цього питання, компанія “обрала обережний підхід”.
Варто зазначити:
ШІ-стартап Anthropic може вийти на біржу вже у жовтні з оцінкою щонайменше 2 трильйони доларів. У такому випадку розробник Claude перевершить SpaceX і проведе найбільше IPO в історії.
Дізнатися більше на: epravda.com.ua