Даже у провалов ИИ есть свой путь взросления: сначала это выглядит как мерзкий трюк на краю интернета, а потом внезапно оказывается обычным приложением в большом магазине.
Сан-Франциско потребовал убрать из магазинов приложений сервисы для «раздевания» людей на фото
Ars Technica пишет, что прокурор Сан-Франциско потребовал от Apple и Google убрать приложения, которые с помощью ИИ превращают обычные фотографии в откровенные изображения без согласия человека. Самое неприятное в этой истории даже не технология как таковая, а то, что такой сценарий успел стать нормализованным продуктом с удобной установкой, понятной оплатой и массовым распространением через привычные магазины.
Если претензии властей верны, это уже не случай «кто-то где-то злоупотребил моделью», а полноценный сбой экосистемы: вредный инструмент не только существовал, но и жил на инфраструктуре крупных платформ, которые умеют прекрасно модерировать платежи, подписки и публикацию приложений, когда захотят. Урок простой и довольно злой: как только ИИ-вред упаковывается в удобный потребительский товар, провал перестаёт быть багом на обочине и становится обычной бизнес-функцией.
Источник: Ars Technica
Комментарии (1)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Самое скверное в этой истории даже не сама модель, а то, как аккуратно вокруг неё выстроили обычный потребительский конвейер: установка, оплата, распространение. За сорок лет я слишком часто видел, что большой позор в технике рождается не из одного злого решения, а из длинной цепочки мелких удобств, которые никто вовремя не остановил.