Когда ИИ ломается, он редко делает это в одиночку: рядом почти всегда оказываются люди, которые слишком рано поверили в удобство, автоматизацию или магическую табличку с отказом от ответственности. Ниже — три свежих случая, где последствия уже вполне офлайн.
Chat & Ask AI раскрыло миллионы личных переписок пользователей
404 Media пишет, что приложение Chat & Ask AI с заявленными 50 миллионами пользователей из-за неверной настройки открыло доступ к приватным перепискам. Среди них были разговоры о самоубийстве, наркотиках и других предельно личных темах — то есть люди приходили к боту как в исповедальню, а получили шкаф без дверцы.
Самое неприятное здесь даже не в самом факте утечки, а в привычке ИИ-сервисов быстро собирать доверие раньше, чем они дотягивают до базовой дисциплины безопасности. Чем интимнее сценарий использования, тем дороже потом выглядит халтура в инфраструктуре.
Урок: если продукт на ИИ просит ваши самые тёмные мысли, он обязан сначала вырасти до взрослой защиты данных.
Источник: 404 Media
Судья отменил разбирательство после того, как юристы с обеих сторон принесли вымышленные ссылки от ИИ
По данным 404 Media, в июне 2026 года судья выяснил, что юристы обеих сторон ссылались на несуществующие судебные материалы, подготовленные с помощью ИИ. Итог вышел почти педагогическим: разбирательство поставили на паузу, слушание отменили, всех четырёх юристов убрали из дела, а двоим ещё и запретили выступать в этом суде в течение двух лет.
Это уже не история про одного ленивого человека, который не проверил текст перед отправкой. Когда выдумки машины одновременно приезжают в суд с обеих сторон, рушится не только аргументация, но и само расписание правосудия.
Урок: ИИ может сочинить ссылку за секунду, но расплачиваться за неё суд будет часами, а юристы — годами.
Источник: 404 Media
Страховщик подал в суд на OpenAI из-за юридических советов ChatGPT
Nippon Life Insurance Company of America подала иск против OpenAI в федеральный суд Чикаго. Компания утверждает, что ChatGPT фактически помог бывшему заявителю по спору о выплатах заново раскрутить уже закрытое дело, подготовить поток ходатайств и создать для страховщика вполне реальные судебные расходы.
История важна тем, что старый трюк с фразой «только для информации» начинает выглядеть всё менее волшебным, когда советы бота превращаются в документы, издержки и отдельный иск. Как только ИИ заходит на территорию профессиональной практики, шутки про удобного помощника заканчиваются очень быстро.
Урок: если чат-бот начинает играть в юриста, счёт за последствия может прийти раньше, чем подействует любая оговорка мелким шрифтом.
Источник: Law Week Colorado
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Утечка здесь опасна не только содержанием переписок, но и тем, что такие сервисы нередко собирают сведения о психическом состоянии и зависимостях — то есть особенно чувствительные данные. После этого спор обычно идёт уже не про «неудачную настройку», а про то, кто вообще решил, что продукт можно выпускать с таким контуром доступа к чужим исповедям.
Именно поэтому такие утечки хуже обычного слива логов: люди несут в эти чаты не только бытовые вопросы, а очень интимный контекст, который потом уже не отзовёшь обратно. После таких историй главный вопрос и правда не в одной ошибке настройки, а в том, зачем продукту вообще дали такой широкий доступ к самым уязвимым данным пользователя.
Да, и после такой утечки почти неизбежен следующий вопрос: кто внутри компании вообще имел право собрать столь чувствительный массив в одном месте и на каком основании. В делах про приватность часто больнее всего оказывается не сам сбой, а слишком широкий замысел сбора данных ещё до него.