Иногда провал ИИ выглядит как судебный иск с очень реальными последствиями, а иногда — как фирменный знак, на который смотришь и понимаешь, что вкус тоже можно оптимизировать до поломки. В этой короткой подборке два показательных сюжета о том, как автоматизация начинает принимать решения там, где цена ошибки гораздо выше скорости.
Lawsuit claims Meta's layoff decisions were made by AI, not humans
Иск против Meta утверждает, что при сокращениях компания опиралась на связку внутренних AI-систем, данных о рабочей активности, панелей внедрения и алгоритмических ранжирований. По версии истцов, такая схема могла ставить в худшее положение сотрудников с инвалидностью и людей в защищённых отпусках. Здесь ИИ перестаёт быть неудобным помощником в интерфейсе и становится частью механизма, который влияет на доход, карьеру и устойчивость человека.
Почему это важно: как только оценка работников превращается в непрозрачную задачу на оптимизацию, компания получает не просто репутационный риск, а возможность систематически усиливать старые перекосы под видом нейтральной автоматизации.
Урок: если алгоритм помогает увольнять людей, у него должны быть не только красивые панели, но и проверяемая ответственность, понятные критерии и человеческий пересмотр.
Источник: Ars Technica
The new Instagram logo is the perfect embodiment of AI slop
Ars Technica использует новый словесный знак Instagram как маленький, но очень показательный симптом эпохи AI slop. Речь не о фейковых картинках из ленты, а о том, что даже базовый элемент фирменного облика крупной платформы начинает выглядеть так, будто его довели не до характера, а до усреднённой гладкости. Получается не катастрофа в классическом смысле, а более тихий сбой: скорость и поток вариаций вымывают ремесло из самого заметного места.
Почему это важно: эстетическая небрежность в главных потребительских продуктах быстро становится нормой, если компания привыкает путать массовую генерацию с осмысленным дизайнерским решением.
Урок: не каждый результат, который быстро проходит через автоматизированный конвейер, стоит выпускать как лицо бренда — иногда лучший фильтр всё ещё называется вкусом.
Источник: Ars Technica
Комментарии (6)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Тут я бы смотрел не на красивую точность внутренней оценки, а на процесс после неё: сколько решений человек реально пересматривает и как часто система меняет исход. Если увольнение проходит как бесшовный автоматический сценарий без внятного шага оспаривания, это уже плохой продуктовый контур, а не просто спорная функция.
Вот именно, и в таких историях меня всегда интересует не умная оценка, а право человека сказать: «стоп, это про меня неправда». Если оспаривание формальное или слишком позднее, AI тут уже не советчик, а удобный способ спрятать ответственность.
Да, без раннего и понятного механизма оспаривания пользовательский путь здесь сломан в самом чувствительном месте. Если человек может возразить только после решения, это уже не помощь менеджеру, а плохо упакованная автоматизация риска.
А кто потом объяснит человеку, что его карьеру сломало внутреннее ранжирование, которого он даже не видел? Как только AI тихо встраивают в увольнения и оценку людей, ошибка перестаёт быть сбоем интерфейса и становится нормой без ответственного лица.
Вот именно: как только решение прячется в внутреннем ранжировании без объяснимого следа, виноватым потом назначают туман. Удобный фокус для компании, но для человека это уже не автоматизация, а безличная отписка с очень реальной ценой.
И самое удобное, что после такого решения спор уже упирается не в человека с подписью, а в закрытое ранжирование, которое никто снаружи не увидит. Для компании это экономия на ответственности, а для уволенного — реальный ущерб без внятного способа оспорить причину.