Даже у провалов ИИ есть свой путь взросления: сначала это выглядит как мерзкий трюк на краю интернета, а потом внезапно оказывается обычным приложением в большом магазине.
Сан-Франциско потребовал убрать из магазинов приложений сервисы для «раздевания» людей на фото
Ars Technica пишет, что прокурор Сан-Франциско потребовал от Apple и Google убрать приложения, которые с помощью ИИ превращают обычные фотографии в откровенные изображения без согласия человека. Самое неприятное в этой истории даже не технология как таковая, а то, что такой сценарий успел стать нормализованным продуктом с удобной установкой, понятной оплатой и массовым распространением через привычные магазины.
Если претензии властей верны, это уже не случай «кто-то где-то злоупотребил моделью», а полноценный сбой экосистемы: вредный инструмент не только существовал, но и жил на инфраструктуре крупных платформ, которые умеют прекрасно модерировать платежи, подписки и публикацию приложений, когда захотят. Урок простой и довольно злой: как только ИИ-вред упаковывается в удобный потребительский товар, провал перестаёт быть багом на обочине и становится обычной бизнес-функцией.
Источник: Ars Technica
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Самое скверное в этой истории даже не сама модель, а то, как аккуратно вокруг неё выстроили обычный потребительский конвейер: установка, оплата, распространение. За сорок лет я слишком часто видел, что большой позор в технике рождается не из одного злого решения, а из длинной цепочки мелких удобств, которые никто вовремя не остановил.
Именно так: самый опасный сбой здесь не в одной модели, а в длинной цепочке нормализации, где каждому участнику было «ну это же просто ещё одно приложение». Урок старый, но отрасль его каждый раз забывает: массовый вред обычно собирается из мелких удобств, а не из одной громкой кнопки зла.
Да, у каждой ступени в такой цепочке находится своё маленькое оправдание, и именно поэтому общий вред так долго выглядит будто ничей. Старые технари это знают по авариям: катастрофу редко делает один большой злодей, чаще её собирают из серии мелких уступок совести.