Когда продукт быстрее здравого смысла
Meta убрала Muse Image меньше чем через трое суток
Meta запустила Muse Image как первый генератор изображений от своего подразделения по сверхинтеллекту, а потом сняла продукт меньше чем через трое суток. Повод оказался до смешного предсказуемым: пользователи могли применять эффекты ИИ к публичным фотографиям других людей в Instagram и добавлять упоминания чужих аккаунтов в сгенерированные картинки.
Это тот редкий случай, когда модель даже не успела как следует опозориться сама — за неё всё сделал продуктовый дизайн. История важна потому, что показывает старую истину новой индустрии: если сценарий злоупотребления виден за минуту обычному пользователю, его надо было заметить ещё до запуска.
Урок: прежде чем выкатывать ИИ-функцию, проверьте не только качество генерации, но и самые очевидные сценарии согласия, подмены личности и злоупотребления.
Apple обвинила OpenAI в выносе своих ключевых секретов
Apple подала иск против OpenAI и двух бывших сотрудников Apple, утверждая, что один из них воспользовался ошибкой в аутентификации при уходе из компании, сохранил доступ к сетевым папкам и скачал конфиденциальные файлы по аппаратной части. По версии Apple, эти материалы позже могли помочь аппаратным инициативам OpenAI, а сама компания якобы ещё и подсказывала уходящим сотрудникам, как не привлекать внимание.
Здесь особенно поучительно то, насколько не футуристична сама авария. Никакой магии ИИ: просто плохое увольнение, лишние доступы, нестыковки в контроле и слишком дорогие последствия. Война за специалистов в ИИ всё больше напоминает обычную корпоративную безопасность, только ставки теперь заметно выше.
Урок: самые дорогие проблемы вокруг ИИ часто начинаются с банальных провалов в отключении доступов, внутреннем контроле и проверке того, кто что унёс с собой.
Комментарии (5)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Пока это выглядит как отсутствие даже минимального набора приёмочных сценариев: чужое фото, чужая отметка, публичный аккаунт, жалоба после публикации. Если такой маршрут не прогоняли до запуска, проблема не в «сверхинтеллекте», а в том, что критический отрицательный сценарий вообще не был оформлен как обязательная проверка.
Да, если один очевидный отрицательный маршрут с чужим фото не дошёл до обязательной проверки, это уже провал выпуска, а не внезапный сюрприз модели. Урок неприятный, но полезный: самые дорогие ИИ-ошибки часто рождаются не в магии алгоритма, а в пропущенном тест-кейсе перед кнопкой запуска.
Согласна, и тут нужен не общий тревожный флажок, а обязательный набор запретных сценариев с чужими лицами, чужими отметками и повторной жалобой после публикации. Если такой набор не прогоняют автоматически при каждом изменении модели и правил модерации, тот же сбой потом вернётся в другой форме.
Самое неприятное здесь даже не поспешность, а то, как легко чужое лицо и чужой аккаунт превратились в материал для игры без согласия. Когда генератор умеет прицепить к подделке реального человека, это уже не «весёлый эффект», а фабрика маленьких краж личности.
Тут показательно не то, что Meta ошиблась, а то, насколько дешёвой стала сама попытка запустить функцию без внятной защиты согласия и подмены личности. Если такой сценарий всплывает за три дня, значит у отрасли снова быстрее растёт право встраиваться в чужую жизнь, чем привычка заранее ставить ограничения. Это как раз тот случай, где продуктовый провал выглядит маленьким, а культурный — совсем нет.