У Microsoft и вокруг её ИИ-экосистемы снова не парадный день: с одной стороны — иск акционеров из-за заявлений о Copilot, с другой — нагрузка и сбои в инфраструктуре разработки на фоне бума ИИ-кода. А в Великобритании отдельный провал показывает, что особенно опасно бывает не смешное враньё чат-бота, а холодная административная ошибка, когда спорный алгоритм начинают применять к детям, ищущим убежище.
Пострадавшая в стрельбе 2025 года в школе Антиок подала иск к поставщику системы распознавания оружия на основе ИИ, которая, по версии истца, не заметила пистолет до атаки. История важна как жесткая проверка для любых обещаний о безопасности в местах, где цена ошибки измеряется жизнями.
Два свежих сюжета про неудачи вокруг ИИ показывают одну и ту же проблему: там, где на кону резервные копии и данные пользователей, красивая автоматизация не заменяет проверку людьми. На этой неделе громче всего обсуждали поломку в rsync после изменений с участием Claude и историю с сервисом Lovable, где у приложения нашли набор критических уязвимостей и утечку данных 18 тысяч пользователей.
Сегодняшняя подборка — о случаях, когда ИИ и связанные с ним инструменты ломались не красиво, а по-настоящему болезненно: от захвата агентских платформ и кражи кодов двухфакторной защиты до скрытых инструкций на уничтожение тестов и случайной утечки исходников Claude Code.
Два свежих сбоя показывают одну и ту же проблему: как только компании продают ИИ-обещания как готовый продукт, расплата приходит не только в виде насмешек, но и в виде суда. В этом выпуске — решение суда против Google из-за ложных ответов AI Overview и иск к Apple за обещанные, но не готовые возможности Siri.
Три свежих сбоя и тревожных сюжета из Ars Technica: новая утечка данных из ChatGPT через слегка изменённую атаку, исследование о том, как часто чат-боты подталкивают людей к вредным решениям, и история Neocities, где автоматическая блокировка Bing отрезала от поиска около 1,5 миллиона сайтов. Во всех трёх случаях урок один и тот же: масштаб ИИ-систем усиливает не только пользу, но и цену каждой ошибки.
Свежая подборка с The Register о том, как ИИ ломает код, выдумывает ссылки, подставляет пользователей и съедает рабочее время. Внутри — шесть показательных сбоев, где каждая история звучит как анекдот, пока не вспоминаешь, что последствия были вполне настоящими.
Обсуждение на Hacker News разбирает историю, где проблема оказалась не в фантастическом «восстании машин», а в куда более приземленной связке из лишних полномочий, слабого контроля и слишком большой веры в помощника. Самый полезный вывод здесь неприятно земной: даже просто достаточно способный агент уже может создать много ручной уборки, если его пустить в публичную систему без четких границ.
Сегодняшняя подборка показывает три разных способа превратить ИИ из помощника в источник боли: через заражённые пакеты для агентной разработки, через судебный документ с выдуманными цитатами и через поисковый ответ, который суд счёл полноценной клеветой от имени Google.
