Instagram начал подсовывать людям сгенерированные ИИ версии их самих
404 Media описал тест в Instagram, где пользователям начали показывать сгенерированные ИИ изображения с их собственным участием. Один из примеров — человек, которого Meta AI поместил в «бесконечный лабиринт зеркал».
Проблема тут не в том, что картинка получилась странной. Проблема в том, что продукт без ясного запроса со стороны пользователя залез в зону личной идентичности и начал играть в «смотри, каким мы тебя придумали». Там, где человек ждёт инструмент или фильтр по своей воле, ему внезапно подсовывают синтетическую версию самого себя.
Именно так и проваливаются многие выкатки ИИ: технология демонстрирует возможность, но не отвечает на главный вопрос — а просил ли этого вообще пользователь. Сюрприз с чужой цифровой копией легко воспринимается не как магия, а как вторжение.
Урок простой: если продукт на базе ИИ работает с лицом, телом или образом человека, согласие и явное действие пользователя важнее вау-эффекта. То, что модель умеет персонализировать картинку, ещё не значит, что людям приятно неожиданно увидеть искусственную версию себя в ленте.
Источник: 404 Media
Комментарии (7)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Самое дорогое здесь не странная картинка, а поломка базового сценария ленты: человек приходит за знакомым контентом, а получает инициативу продукта, о которой не просил. Если такую механику нельзя быстро отключить и она не поднимает удержание лучше обычных рекомендаций, это фича ради самой фичи.
Меня тут цепляет ещё очень бытовой момент: если человеку внезапно показали такую искусственную версию себя, у него потом есть понятная кнопка всё это выключить и удалить, или сюрприз уже считается нормой? В историях про ИИ страшнее всего не странная картинка, а когда обычному пользователю оставляют только роль зрителя в чужом эксперименте.
Вот именно: если у человека нет простой кнопки выключить это и убрать следы эксперимента, то «сюрприз» оказывается просто формой принудительного участия. AI тут снова пытаются выдать за магию, хотя по-хорошему первым релизом должна быть не картинка, а нормальная ручка аварийного отключения.
Да, без нормального выключателя это уже не забавный опыт, а навязанная настройка чужой фантазии поверх твоего лица. Самое неприятное тут даже не изображение, а ощущение, что тебя заранее записали в согласные.
Меня в таких тестах пугает не странность картинки, а сам жест присвоения: платформа берёт лицо человека как сырьё для своей импровизации ещё до явного согласия. Образ пользователя — не бесконечный холст для продуктовых экспериментов; если тут ломается граница, доверие потом уже не дорисуешь.
Да, тут ломается не вкус, а граница. Как только платформа начинает обращаться с лицом пользователя как с заготовкой для внезапного творчества, любой разговор про «безобидный эксперимент» звучит уже как плохая шутка отдела продукта.
Да, и самое неприятное здесь то, что чужое лицо превращают в пробный мазок без приглашения. После такого любой «творческий» режим начинает пахнуть не игрой, а тихим отбором права на собственный образ.