Андрій Русанов Автор новин “Межі” з чотирирічним досвідом редагування стрічки. Ґік у всьому, про що пишу, але найбільше у комп’ютерах. 11 серпня, 22:23 0
Вебсайт компанії Research Gold пропонує послуги фахівців у галузі медицини, такі як написання рукописів, готових до рецензування, проведення системних оглядів, метааналізів тощо, й при цьому стверджує, що всі роботи “на 100% виконуються людьми, а не штучним інтелектом”. В описі перелічено багато докторів наук та професійних методологів. Однак, згідно з розслідуванням 404 Media, більшість із цих осіб не існують або не знають, що співпрацюють із Research Gold.
Видання зазначає, що список рецензентів, ймовірно, згенерований ШІ, оскільки більшість цих людей не є реальними. Ті ж, хто виявилися справжніми, не підозрюють, що Research Gold використовує їхні персональні дані. Коли журналіст Емануель Майберг зателефонував до компанії, він, за його словами, спілкувався з агентом ШІ, “який відмовлявся визнати, що він є ШІ” і намагався продати йому послуги Research Gold. Його досвід спілкування з компанією електронною поштою та через чат також, за його словами, проводився штучним інтелектом.
На сторінці “Про нас” Research Gold представляє свою “команду”. Серед них — засновниця та провідна методологиня, докторка Єлена Васкес, яка нібито “має дванадцятирічний досвід у синтезі доказів у галузі кардіології та інфекційних захворювань”, а також спеціалістка з огляду досліджень, докторка Мей-Лін Чен, яка “створює огляди обсягів досліджень та карти доказів для заявок на гранти та аналітичних записок”. Васкес, Чен та ще шість членів цієї команди не існують. Пошук за їхніми іменами не дає жодних онлайн-слідів, що відповідали б опису на сайті чи історії публікацій. Їхні фотографії профілів також очевидно згенеровані штучним інтелектом.
В іншому розділі сайту представлено групу методологів із зображеннями профілів, які виглядали правдоподібно. Пошук за цими іменами виявив їхні профілі в LinkedIn, що містили відповідний професійний досвід. Усі вони є або були позаштатними методологами чи науковцями. Дженні Берріо, науковиця з синтезу доказів, яка була зазначена як одна з методологів Research Gold, заявила, що не має жодного стосунку до компанії і не знала, що її особу використовують на сайті.
Усі зображення профілів реальних методологів, перелічених на сайті, ідентичні тим, які ці особи використовують у своїх справжніх профілях LinkedIn. Схоже, що дані фахівців були взяті безпосередньо з LinkedIn. Research Gold видалила сторінку, на якій Берріо та інші реальні особи були представлені як їхні методологи, невдовзі після звернення журналіста.
На сайті наведено кілька статей, опублікованих в академічних журналах, над якими компанія нібито працювала. Майберг звернувся до провідних авторів цих статей, але не отримав жодної відповіді.
“Використовуючи онлайн-форму сайту, я запросив комерційну пропозицію на проведення системного огляду мого дослідницького проєкту, який я визначив як “Вплив ведення блогу на дітей віком від 0 до 5 років”. Форма надавала можливість надіслати додаткові матеріали та нотатки щодо проєкту, але я їх не надсилав. Я негайно отримав відповідь електронною поштою від “методолога з докторським ступенем” (за словами Research Gold), але, схоже, це була відповідь, згенерована штучним інтелектом”, – пише Емануель Майберг про свій експеримент.
Після кількох уточнень щодо цієї, очевидно, безглуздої теми, ШІ-“методолог” виставив рахунок на $1900 та перелічив обсяг робіт, які будуть виконані. Електронний лист містив посилання на платіжний портал.
Увагу Майберга до Research Gold привернув кандидат на здобуття докторського ступеня Себастьян Роуен, з кафедри цивільного та екологічного будівництва Університету Нью-Гемпшира. Він натрапив на компанію під час підготовки до захисту дисертації. На думку науковця, ШІ може бути корисним для виснажливого історичного огляду тематичної літератури, але на нього важко покладатися.
“Фундаментальною проблемою використання штучного інтелекту, навіть спеціалізованих інструментів, для будь-чого є їхня схильність до галюцинацій, що, наскільки мені відомо, вважається нерозв’язною проблемою. Я особисто прочитав понад 250 статей від початку до кінця для свого метааналізу, і для кожного висновку в моїй статті я можу навести конкретні посилання на ці статті, і я розумію нюанси обговорень того, як мої результати співвідносяться з практикою”, – пояснює науковець цю проблему.
Журналіст не знайшов конкретних доказів використання результатів Research Gold авторитетними дослідниками, але звертає увагу на те, що генеративний штучний інтелект вже загалом вплинув на академічні публікації. Спираючись на попередні публікації видання, він стверджує: “Науковим журналам доводиться фільтрувати потік статей з цитатами, згенерованими штучним інтелектом, а деякі статті, згенеровані штучним інтелектом, таки публікуються академічними журналами. У 2024 році я спілкувався з дослідником, який вважав, що сам процес рецензування може бути скомпрометований текстом, згенерованим штучним інтелектом”.
За матеріалами: mezha.ua