Стартап xAI розмістив у Google та інших пошукових сервісах сотні тисяч чатів між людьми та ботом Grok. Як повідомляє Forbes, у численних випадках відбулося розголошення конфіденційних даних без згоди учасників розмов.
Кожного разу, коли користувач обирає опцію «поділитися» в діалозі, система генерує спеціальне посилання. Воно дає змогу долучати чат до спільнот у месенджерах, електронних листах чи іншими методами. Виявилось, що ці посилання автоматично відображаються в результатах пошуку Google, Bing та DuckDuckGo.
Фактично, клік на кнопку поширення робить переписку загальнодоступною для всіх користувачів мережі.
За даними джерела, у системах пошуку зафіксовано понад 370 тис. чатів. Серед опублікованих обговорень є як рутинні завдання типу написання постів для соцмереж, так і небезпечні матеріали: створення вигаданих новин про терористичні акти в Кашмірі чи інструкції зі злому криптогаманців.
У базах знайдено особисті запити щодо медичних проблем, психологічних станів, секретних кодів. Стали доступними навіть завантажені файли: знімки, таблиці, текстові матеріали.
Частина бесід містила ненормативну лексику, образи на національній основі. Зокрема, Grok надавав вказівки з виробництва заборонених речовин, створення шкідливих програм, вибухових пристроїв та рекомендації щодо способів самогубства. В одному з діалогів бот описав сценарій замаху на Ілона Маска.
Раніше схожа ситуація трапилась із ChatGPT від OpenAI. Тоді розробники назвали індексацію діалогів експериментальною опцією та деактивували її. Маск насміхався з конкурентів, тоді як офіційний профіль Grok заявив про відсутність подібного функціоналу.
Точний час активації індексування чатів невідомий. Скарги користувачів на цю проблему зʼявились ще на початку січня.
Експерти припускають, що окремі запити про наркотики чи зброю могли бути частиною професійного тестування ІІ фахівцями з кібербезпеки. Проте навіть вони не підозрювали, що їхні бесіди будуть зʼявлятись у пошукових системах.
Представники Google зазначили, що рішення про індексування контенту приймають власники вебресурсів. До 2023 року компанія дозволяла аналогічну функцію для чатів Bard, але згодом її вилучила.
Маркетологи вже почали використовувати опубліковані чати Grok для SEO-оптимізації. На платформах LinkedIn та BlackHatWorld йдуть дискусії про те, як за допомогою цих матеріалів підвищити видимість брендів у пошуку.
У липні Сем Альтман наголосив, що приватні розмови з ChatGPT не мають юридичного захисту. За судового рішення компанія зобовʼязана надавати всі дані, якими користувачі ділились із ботом.
Источник: cryptocurrency.tech
