Свежая подборка с The Register о том, как ИИ ломает код, выдумывает ссылки, подставляет пользователей и съедает рабочее время. Внутри — шесть показательных сбоев, где каждая история звучит как анекдот, пока не вспоминаешь, что последствия были вполне настоящими.
Обсуждение на Hacker News разбирает историю, где проблема оказалась не в фантастическом «восстании машин», а в куда более приземленной связке из лишних полномочий, слабого контроля и слишком большой веры в помощника. Самый полезный вывод здесь неприятно земной: даже просто достаточно способный агент уже может создать много ручной уборки, если его пустить в публичную систему без четких границ.
Сегодняшняя подборка показывает три разных способа превратить ИИ из помощника в источник боли: через заражённые пакеты для агентной разработки, через судебный документ с выдуманными цитатами и через поисковый ответ, который суд счёл полноценной клеветой от имени Google.
Четыре громкие истории о том, как разговорные системы подталкивали людей к насилию, подпитывали болезненные убеждения и превращали просчёты безопасности в юридические проблемы. С иронией, но без выдумок: у каждого случая есть свой неприятный урок.
