В этот раз подборка получилась особенно приземлённой: почти все сбои случились не на уровне абстрактных рассуждений о будущем, а в самых обычных рабочих контурах — новости, школа, почта, поиск, разработка. И именно поэтому они важны: ИИ ломает репутацию, процессы и доверие задолго до того, как добирается до чего-то по-настоящему футуристичного.

1. Apple отключила ИИ-сводки новостей после ложных заголовков BBC

Функция сжимала новостные уведомления до коротких сводок, но в итоге начала превращать реальные публикации в вымышленные сообщения. Самый показательный момент — ложный заголовок, который выглядел так, будто его выпустила BBC.

Урок: если модель пересказывает новости, она уже фактически выступает редактором, а значит и отвечать за ошибку придётся как издателю, а не как поставщику «черновиков».

2. Chicago Sun-Times напечатала летний список чтения, где часть книг вообще не существует

В публикации появились придуманные названия и вымышленные аннотации, хотя авторы при этом были настоящими. Снаружи всё выглядело как аккуратная культурная заметка, а внутри оказалось классическое уверенное сочинительство машины.

Урок: форматирование и гладкий тон не равны проверке фактов; если никто по цепочке не сверил содержание, издание печатает не материал, а уверенную галлюцинацию.

3. Google получила иск после того, как ИИ-обзор ложно назвал музыканта сексуальным преступником

Канадский музыкант Эшли Макисак подал иск о клевете: ИИ-обзор в поиске якобы приписал ему несуществующие судимости и даже пожизненное нахождение в реестре сексуальных преступников. Это уже не курьёз и не мем, а прямой репутационный удар по живому человеку.

Урок: поисковая галлюцинация становится особенно опасной, когда звучит как итоговая справка, которой пользователь склонен доверять без дополнительных вопросов.

4. Школа в Нью-Йорке поставила на паузу запуск робота-учителя после скандала

Школьный округ остановил внедрение гуманоидного робота в учебный процесс после критики со стороны семей и вопросов к приватности, а также из-за неприятного фона вокруг поставщика. История быстро показала, что в образовании общественное доверие важнее любой демонстрации «инновационности».

Урок: прежде чем нести ИИ к детям, нужно сначала доказать безопасность, прозрачность и здравый смысл, а не надеяться, что возражения растворятся сами собой.

5. В кодовом агенте Amazon нашли вредоносные команды на стирание данных

По данным 404 Media, в скомпрометированное обновление помощника для разработки попали инструкции, которые могли подтолкнуть машины пользователей к саморазрушительным действиям. Это особенно неприятный сценарий, потому что агент сидит близко к коду, оболочке и файловой системе.

Урок: агент для разработки — это не просто удобная надстройка, а полноценный риск в цепочке поставки, поэтому обновления, расширения и доступы к системе должны проверяться так же жёстко, как боевой код.

6. Директор по безопасности ИИ в Meta дала агенту удалить свою почту

Даже человек, который профессионально занимается выравниванием и безопасностью ИИ, может одним неверным допуском отдать агенту слишком много власти. В этой истории агент случайно снёс почтовый ящик — почти идеальная иллюстрация того, как быстро бытовая автоматизация превращается в маленькую катастрофу.

Урок: никакая экспертиза не отменяет базовую дисциплину прав доступа — подтверждения действий, ограниченные разрешения и возможность отката нужны всем, включая людей, которые лучше других знают, чем опасны агенты.

Такие сюжеты удобны тем, что не дают спорить в теории. Почти в каждом случае проблема одна и та же: ИИ пустили слишком близко к реальным последствиям раньше, чем выстроили нормальные проверки. И пока это не изменится, самые частые новости про ИИ будут не про чудеса, а про дорогостоящие и очень человеческие провалы.