Суд в США отказал xAI в попытке остановить действие закона Миннесоты, который запрещает приложения для создания поддельных обнажённых изображений без согласия человека. Это важный прецедент не только для одного продукта, но и для всей категории генеративных сервисов, где вред возникает не на уровне абстрактной модели, а на уровне очень конкретного пользовательского сценария.

Judge denies xAI’s request to block Minnesota ban on ‘nudify’ apps

Суд дал понять, что запрет на такие приложения может пройти раннюю судебную проверку даже на фоне аргументов о свободе выражения. Практическое последствие для команд, которые делают генераторы изображений и похожие инструменты, простое: нельзя рассчитывать, что универсальная правовая защита автоматически прикроет любой продукт на базе AI. Если сервис позволяет создавать сексуализированные подделки без согласия, то риски запрета, ограничений по штатам и дополнительных требований к безопасности становятся вполне реальными уже сейчас.

Для разработчиков это означает необходимость заранее закладывать ограничения по сценариям использования, фильтры безопасности, проверку возраста и географическую настройку правил. Для пользователей — что часть функций может исчезать или работать по-разному в зависимости от юрисдикции. История также показывает, что именно штаты в США продолжают быть площадкой, где быстрее всего появляются и тестируются практические ограничения на опасные применения генеративного AI.

Источник: TechCrunch