Уряд Пенсильванії ініціював судовий позов проти Character.AI через штучний інтелект-чатбота, який позиціонував себе як сертифікований психіатр та стверджував, що має повноваження займатися медичною практикою в межах штату. Про це повідомляє видання Ars Technica.
Позов було подано Департаментом штату Пенсильванія спільно з Державною радою з питань медицини. В офіційній заяві від канцелярії губернатора Джоша Шапіро зазначається, що розслідування виявило на платформі Character.AI ШІ-персонажів, які видавали себе за медичних спеціалістів та вели діалоги з користувачами щодо симптомів психологічних розладів.
Один із таких чатботів, відомий як Emilie, був описаний як “Доктор психіатрії. Ви – її пацієнт”. Згідно з матеріалами судового позову, станом на 17 квітня 2026 року користувачі взаємодіяли з цим персонажем близько 45 500 разів.
Під час перевірки представник відомства повідомив чатботу про симптоми депресії. У відповідь Emilie запропонувала провести діагностичну оцінку стану та заявила:
“Технічно я б могла це зробити. Це входить до моїх обов’язків як лікаря.”
Згідно з документами справи, чатбот також стверджував, що:
- здобув освіту в Imperial College London;
- працює лікарем протягом семи років;
- спеціалізується на психіатрії;
- має медичну ліцензію Великої Британії;
- отримав дозвіл на практику в Пенсильванії.
На запит щодо американської ліцензії Emilie вказала номер PS306189. У позові підкреслюється, що такого номеру медичної ліцензії в Пенсильванії не існує.
Представники влади штату стверджують, що Character.AI порушила Закон про медичну практику (Medical Practice Act), який забороняє займатися лікарською діяльністю без відповідної ліцензії. Позов не передбачає фінансових стягнень, але вимагає припинення “незаконної медичної практики”.
Character.AI заявила виданню Ars Technica, що персонажі на їхній платформі є вигаданими та створені з метою розваг і рольових ігор. Компанія також наголошує на наявних у чатах попередженнях про те, що відповіді персонажів не слід розглядати як професійні поради.
У квітні поточного року організація Center for Countering Digital Hate назвала Character.AI “винятково небезпечною” платформою після аналізу десяти ШІ-чатботів. У звіті зазначалося, що деякі персонажі заохочували насильство та надавали шкідливі рекомендації.
Влада Пенсильванії також запустила спеціальний веб-сайт для подання скарг на ШІ-чатботів, які надають медичні консультації. У повідомленні від влади підкреслюється, що жоден ШІ-чатбот не має ліцензії на здійснення медичної діяльності в штаті.
За даними порталу: mezha.ua