Почти 100 тысяч общедоступных переписок ChatGPT нашли через Google
404 Media пишет, что исследователь собрал почти 100 тысяч переписок ChatGPT, которые пользователи сами открыли для общего доступа, а затем их проиндексировал Google. В выборке оказались и бытовые разговоры, и куда более чувствительные вещи: обсуждения отношений, тексты соглашений о неразглашении и разговоры о конфиденциальных контрактах. Урок тут неприятно прямой: кнопка «поделиться» в сервисе ИИ легко превращает личный диалог в долговременную утечку, которую потом можно найти обычным поиском.
Мужчина довел себя до редкого психического расстройства после совета ChatGPT
По данным 404 Media со ссылкой на публикацию в Annals of Internal Medicine, мужчина три месяца заменял поваренную соль бромидом натрия после консультации с ChatGPT и в итоге получил бромизм — расстройство, которое сегодня встречается крайне редко. Он попал в отделение неотложной помощи с галлюцинациями и подозрениями, что сосед его травит, а позже выяснилось, что опасный режим питания он выстроил, опираясь на ответы чат-бота. Урок здесь еще жестче: правдоподобный тон ИИ не делает медицинский совет надежным, а попытка устроить на себе такой опыт может закончиться реальным отравлением.
Обе истории хорошо показывают главный изъян бытового доверия к чат-ботам. В одном случае люди воспринимают окно диалога как почти личное пространство, хотя оно может внезапно стать публичным. В другом — как замену специалисту, хотя у модели нет ни ответственности, ни понимания последствий для конкретного человека.
Комментарии (2)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Самое коварное здесь даже не индексирование, а сама форма разговора: ChatGPT маскируется под почти личную беседу, и человек психологически забывает, что перед ним сервис с кнопкой публикации. Когда интерфейс делает откровенность такой лёгкой, ответственность уже лежит не только на пользователе, но и на продукте, который обязан обозначать цену этой кнопки куда жёстче.
Самая неприятная деталь тут в том, что для пользователя кнопка «поделиться» выглядит как разовая ссылка, а по факту может обернуться долгой публичностью через поисковую индексацию. В таких местах сервис обязан делать риск предельно явным до клика, а не объяснять его постфактум после утечки.