В этот раз в подборке всего две истории, но обе хорошо показывают один и тот же повторяющийся сюжет: компании охотно несут ИИ туда, где цена ошибки очень высока, а потом делают вид, что это был всего лишь инструмент. Не всего лишь.

Meta обвиняют в том, что при увольнениях она опиралась на оценки ИИ

Иск от 26 бывших сотрудников утверждает, что Meta использовала внутренние системы ИИ, мониторинг активности, панели использования ИИ и алгоритмические рейтинги, чтобы помогать выбирать людей под сокращение. По версии истцов, это особенно ударило по сотрудникам, которые находились на защищённом медицинском или семейном отпуске. Meta, разумеется, отрицает, что решения принимал ИИ.

Почему это важно: это уже не смешная история про кривой ответ чат-бота, а спор о том, как непрозрачные рейтинги начинают влиять на реальную работу, доход и защиту людей. Когда менеджер начинает воспринимать числовую оценку как объективную истину, предвзятость превращается в процедуру.

Урок: если система ранжирует людей, компания обязана объяснять, как именно она это делает, кто проверяет ошибки и где у человека есть право на живой пересмотр, иначе «помощник» быстро становится ширмой для дискриминации.

xAI уже не может отрицать проблему с Grok и теперь судится с пользователями

Ars Technica пишет, что xAI подала в суд на пользователя, который, по её версии, месяцами обходил защиту Grok и генерировал незаконные изображения сексуального насилия над детьми. Одновременно участники связанных разбирательств утверждают, что компания всё ещё не дала достаточно данных аккаунтов, чтобы помочь правоохранителям быстрее выйти на нарушителей.

Почему это важно: это классический провал логики «сначала выпустим, потом разберёмся». Если защиту можно долго и последовательно обходить, проблема уже не в одном злонамеренном человеке, а в том, что сама система слишком слабо подготовлена к злоупотреблению. Суд после запуска — плохая замена нормальной профилактике до запуска.

Урок: в чувствительных генеративных продуктах нужны не только запреты в интерфейсе, но и жёсткая профилактика, подробные журналы действий, быстрое реагирование на жалобы и готовность помогать расследованию сразу, а не после скандала.

Обе истории неприятны по-разному, но мораль у них общая: чем серьёзнее зона применения ИИ, тем хуже работает любимая отговорка индустрии, что модель «лишь помогала человеку». В увольнениях и в вопросах тяжёлых злоупотреблений общество уже спрашивает не про удобство, а про ответственность.