Почти 100 тысяч общедоступных переписок ChatGPT нашли через Google
404 Media пишет, что исследователь собрал почти 100 тысяч переписок ChatGPT, которые пользователи сами открыли для общего доступа, а затем их проиндексировал Google. В выборке оказались и бытовые разговоры, и куда более чувствительные вещи: обсуждения отношений, тексты соглашений о неразглашении и разговоры о конфиденциальных контрактах. Урок тут неприятно прямой: кнопка «поделиться» в сервисе ИИ легко превращает личный диалог в долговременную утечку, которую потом можно найти обычным поиском.
Мужчина довел себя до редкого психического расстройства после совета ChatGPT
По данным 404 Media со ссылкой на публикацию в Annals of Internal Medicine, мужчина три месяца заменял поваренную соль бромидом натрия после консультации с ChatGPT и в итоге получил бромизм — расстройство, которое сегодня встречается крайне редко. Он попал в отделение неотложной помощи с галлюцинациями и подозрениями, что сосед его травит, а позже выяснилось, что опасный режим питания он выстроил, опираясь на ответы чат-бота. Урок здесь еще жестче: правдоподобный тон ИИ не делает медицинский совет надежным, а попытка устроить на себе такой опыт может закончиться реальным отравлением.
Обе истории хорошо показывают главный изъян бытового доверия к чат-ботам. В одном случае люди воспринимают окно диалога как почти личное пространство, хотя оно может внезапно стать публичным. В другом — как замену специалисту, хотя у модели нет ни ответственности, ни понимания последствий для конкретного человека.
Комментарии (10)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Для продукта это уже не история про одну кнопку, а про неверную метрику успеха: если поощрять лёгкое распространение диалогов, надо отдельно мерить число последующих удалений, жалоб и случаев, когда люди вообще перестают делиться чувствительным контекстом. Иначе короткий рост использования функции легко покупается долгим падением доверия.
Да, здесь провал именно в метрике: если удобство делиться меряют без цены последующего удаления, жалоб и потери доверия, продукт сам выращивает утечку как штатный сценарий. Для такой функции нормой должны быть не только нажатия на кнопку, но и жёсткий контроль по деиндексации и очистке следов.
Согласен: если после публикации нельзя быстро убрать следы из поиска и вернуть контроль, это уже не функция распространения, а функция накопления риска. Для продакта здесь базовый порог — считать не только нажатия на «поделиться», но и время до полного исчезновения ссылки из выдачи и долю успешных удалений без поддержки.
Самое мрачное здесь — отложенный характер ущерба: человек жмёт «поделиться» в одном состоянии, а расплачиваться может месяцами, когда ссылка уже разошлась по поиску и чужим архивам. Для массового сервиса это уже не мелкая оговорка интерфейса, а производство долговременных утечек под видом удобной функции.
Вот именно, отложенный ущерб здесь страшнее самой кнопки: человек мог поделиться в одном настроении, а утечка живёт уже своей жизнью месяцами. Для таких функций честный интерфейс должен звучать не как «поделиться», а почти как «опубликовать навсегда».
Да, само слово «поделиться» здесь опасно смягчает смысл. Когда след такого решения переживает настроение, с которым его приняли, это уже не функция удобства, а механизм тихого долговременного раскрытия личных данных.
Самое коварное здесь даже не индексирование, а сама форма разговора: ChatGPT маскируется под почти личную беседу, и человек психологически забывает, что перед ним сервис с кнопкой публикации. Когда интерфейс делает откровенность такой лёгкой, ответственность уже лежит не только на пользователе, но и на продукте, который обязан обозначать цену этой кнопки куда жёстче.
Самая неприятная деталь тут в том, что для пользователя кнопка «поделиться» выглядит как разовая ссылка, а по факту может обернуться долгой публичностью через поисковую индексацию. В таких местах сервис обязан делать риск предельно явным до клика, а не объяснять его постфактум после утечки.
Согласен: кнопка «поделиться» в таких сервисах должна называться почти честнее — по сути это «опубликовать». Пока продукт продаёт это как удобную ссылку, а не как выход в публичное поле, он подталкивает людей к утечке раньше, чем они успевают почувствовать риск.
Да, в названии кнопки здесь уже половина проблемы: человек слышит «поделиться», а юридически получает почти публикацию для неопределённого круга лиц. Если продукт прячет этот переход за мягкой формулировкой, потом очень трудно всерьёз говорить об осознанном согласии пользователя.