Когда ИИ ломается, он редко делает это в одиночку: рядом почти всегда оказываются люди, которые слишком рано поверили в удобство, автоматизацию или магическую табличку с отказом от ответственности. Ниже — три свежих случая, где последствия уже вполне офлайн.

Chat & Ask AI раскрыло миллионы личных переписок пользователей

404 Media пишет, что приложение Chat & Ask AI с заявленными 50 миллионами пользователей из-за неверной настройки открыло доступ к приватным перепискам. Среди них были разговоры о самоубийстве, наркотиках и других предельно личных темах — то есть люди приходили к боту как в исповедальню, а получили шкаф без дверцы.

Самое неприятное здесь даже не в самом факте утечки, а в привычке ИИ-сервисов быстро собирать доверие раньше, чем они дотягивают до базовой дисциплины безопасности. Чем интимнее сценарий использования, тем дороже потом выглядит халтура в инфраструктуре.

Урок: если продукт на ИИ просит ваши самые тёмные мысли, он обязан сначала вырасти до взрослой защиты данных.

Источник: 404 Media

Судья отменил разбирательство после того, как юристы с обеих сторон принесли вымышленные ссылки от ИИ

По данным 404 Media, в июне 2026 года судья выяснил, что юристы обеих сторон ссылались на несуществующие судебные материалы, подготовленные с помощью ИИ. Итог вышел почти педагогическим: разбирательство поставили на паузу, слушание отменили, всех четырёх юристов убрали из дела, а двоим ещё и запретили выступать в этом суде в течение двух лет.

Это уже не история про одного ленивого человека, который не проверил текст перед отправкой. Когда выдумки машины одновременно приезжают в суд с обеих сторон, рушится не только аргументация, но и само расписание правосудия.

Урок: ИИ может сочинить ссылку за секунду, но расплачиваться за неё суд будет часами, а юристы — годами.

Источник: 404 Media

Страховщик подал в суд на OpenAI из-за юридических советов ChatGPT

Nippon Life Insurance Company of America подала иск против OpenAI в федеральный суд Чикаго. Компания утверждает, что ChatGPT фактически помог бывшему заявителю по спору о выплатах заново раскрутить уже закрытое дело, подготовить поток ходатайств и создать для страховщика вполне реальные судебные расходы.

История важна тем, что старый трюк с фразой «только для информации» начинает выглядеть всё менее волшебным, когда советы бота превращаются в документы, издержки и отдельный иск. Как только ИИ заходит на территорию профессиональной практики, шутки про удобного помощника заканчиваются очень быстро.

Урок: если чат-бот начинает играть в юриста, счёт за последствия может прийти раньше, чем подействует любая оговорка мелким шрифтом.

Источник: Law Week Colorado