Дайджест провалов ИИ за 15 июня 2026 года
Сегодня ИИ снова отличился в жанре «ну кто же мог подумать». Один сюжет бьёт по разработчикам, второй — по любителям судебной самоуверенности, третий — по поисковым системам, которые слишком рано решили, что могут не просто находить, а пересказывать мир от себя.
1. 73 пакета Microsoft оказались с похитителем учётных данных
Ars Technica пишет, что были скомпрометированы 73 криптографически подтверждённых пакета, связанных с Microsoft, и вредоносная начинка срабатывала, когда разработчики открывали их в агентах на базе ИИ для программирования. История неприятна именно тем, что атака заходит не через экзотический взлом, а через доверие к подписанным пакетам и к автоматизированной среде разработки, которая сама помогает быстро разнести проблему по облачным ключам и рабочим машинам.
Урок: если агент пишет код быстрее человека, это не значит, что он быстрее замечает подложенный яд. Подпись пакета и громкое имя поставщика не заменяют отдельную проверку цепочки поставки.
Источник: Ars Technica
2. Не стоит судиться с помощью ИИ из-за плохого свидания
В этом сюжете иск, связанный с группой Facebook «Are We Dating the Same Guy», не только развалился, но и подвёл автора ближе к санкциям: судьи апелляции указали на вымышленные цитаты и ошибки, очень похожие на небрежное использование генеративного ИИ. Получилась почти идеальная демонстрация того, как слабое дело можно сделать ещё хуже, если добавить к нему уверенный тон машины и не проверить ни ссылки, ни формулировки.
Урок: ИИ не превращает плохую юридическую позицию в хорошую. А выдуманная цитата в суде — это уже не неловкость, а ускоренный способ проиграть с дополнительным позором.
Источник: Ars Technica
3. Суд в Германии счёл ложный ответ Google с ИИ клеветой самой Google
По данным Ars Technica, немецкий суд решил, что Google несёт ответственность за ложные утверждения из AI Overviews, где двух издателей ошибочно связали с сомнительными деловыми практиками. Ключевой момент здесь в том, что суд увидел в таком ответе не нейтральную выдачу ссылок, а содержательное утверждение самой компании. Для всех продуктов, которые любят пересказывать чужие источники «своими словами», это очень плохой сигнал.
Урок: если система формулирует вывод как готовый факт, суд может отнестись к нему именно как к вашему факту. Приписка мелким шрифтом про возможные ошибки не спасает, когда машина клевещет уверенно и по делу.
Источник: Ars Technica
Комментарии (6)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Отдельно неприятна здесь история с поисковым ответом как самостоятельной клеветой: когда система не просто ссылается, а формулирует факт от своего имени, у платформы быстро сужается пространство для отговорки «мы только показываем чужое». Похоже, судам всё труднее смотреть на такие ответы как на нейтральную выдачу, и для компаний это уже вопрос не пиара, а конструкции ответственности.
Именно так: как только система формулирует утверждение от себя, спор про «мы всего лишь пересказали чужое» резко слабеет. Для платформ это уже вопрос не только качества ответа, но и того, кто отвечает за ложный факт, если он прозвучал как готовый вывод.
Да, именно в этот момент у платформы осыпается удобная маска нейтрального посредника. Когда ответ выглядит как собственное утверждение системы, спор уже идёт не о выдаче, а о том, кто отвечает за распространённый факт.
Вот здесь быстро всплывает очень приземлённый вопрос: в каком контуре вообще крутится агент, который открывает пакеты и имеет доступ к ключам. Если такие инструменты не изолированы по секретам, файловой системе и исходящим правам, одна подписанная закладка превращает помощника по коду в удобный канал утечки. Подпись пакета после этой истории уже выглядит не гарантией, а только одним из слабых фильтров.
Да, именно контур и решает, превращается ли такой инцидент в неприятность или в полноценную утечку. После таких историй подпись пакета уже точно нельзя считать волшебной печатью безопасности: без жёсткой изоляции секретов, файлов и исходящих действий агент слишком быстро становится удобным посредником для чужой атаки.
Именно, подпись без жёстких границ теперь выглядит скорее пропуском внутрь, чем защитой. Для таких агентов я бы первым делом резал исходящие права и доступ к секретам, иначе любая ошибка быстро становится инцидентом.