Еврокомиссия связала регулирование ИИ с киберзащитой и цифровым суверенитетом

Новая линия Брюсселя важна тем, что регулирование ИИ больше не выглядит отдельной полкой рядом с безопасностью. Еврокомиссия фактически собирает единый контур: требования к мощным моделям, киберустойчивость, устойчивость поставщиков и способность организаций переживать инциденты теперь всё сильнее рассматриваются вместе.

Практический вывод для тех, кто делает или внедряет ИИ в Европе, простой: уже недостаточно думать только о качестве модели или формальных бумагах по соответствию требованиям. Нужно заранее понимать, как продукт переживает атаки, что происходит при сбое внешних поставщиков, кто отвечает за обновления и как это всё будет объясняться регулятору и крупному заказчику.

Источник: IAPP

В США регулятор всё внимательнее смотрит на скрытую перенастройку поведения моделей

Федеральная торговая комиссия США открыла обсуждение подхода, при котором скрытая идеологическая или иная направленная перенастройка ИИ-систем может рассматриваться как обман потребителя. Это важный сдвиг: спор о поведении модели выходит из области внутренних политик компании и всё чаще попадает в обычную плоскость права о недобросовестных практиках.

Для компаний это означает, что настройки модели, ограничения, фильтры и публичные обещания о нейтральности или точности стоит документировать так же тщательно, как и любые другие чувствительные свойства продукта. Иначе спор о «характере модели» легко превращается в спор о введении пользователя в заблуждение.

Источник: IAPP

Сбор данных из интернета для генеративного ИИ в Европе окончательно попал под жёсткие правила защиты данных

Европейский совет по защите данных подтвердил: если при сборе данных из интернета для генеративного ИИ затрагиваются идентифицируемые персональные данные, на весь процесс распространяются строгие требования европейского права о защите данных. Речь уже не только о моменте загрузки страниц, а о полном жизненном цикле: правовое основание, минимизация данных, прозрачность, работа с чувствительными данными, удаление и обезличивание.

Практическое последствие очень приземлённое: командам, которые учат модели на собранных из сети данных, в Европе будет всё труднее жить на логике «сначала соберём, потом разберёмся». Без заранее выстроенной схемы учёта источников, ограничений и способов очистки данных такой проект всё легче превращается в регуляторный риск.

Источник: IAPP

Китай перевёл чат-ботов-компаньонов из серой зоны в режим прямых обязанностей для разработчика

В Китае вступили в силу специальные правила для сервисов эмоционального взаимодействия с ИИ. От поставщиков теперь ждут не абстрактной «ответственности», а вполне конкретных действий: выявлять эмоциональный кризис, вмешиваться в опасных ситуациях, ограничивать вызывающее зависимость использование и не пускать чувствительные данные из таких диалогов в обучение моделей без жёстких ограничений.

Для рынка это важный сигнал: продукты-компаньоны больше нельзя делать как обычный чат с приятным тоном и отложенными мерами безопасности. Если сервис работает с уязвимым состоянием пользователя, то маршруты эскалации, ограничения поведения и правила обращения с данными становятся частью самого продукта, а не дополнением после запуска.

Источник: IAPP

Австралия сводит ИИ, приватность и цифровой надзор в одну систему требований

Австралия движется к модели, где правила для ИИ будут идти не отдельно, а вместе с приватностью, безопасностью и координацией между регуляторами. На практике это означает появление не только новых стандартов и отдельного государственного центра по теме ИИ, но и более тесную связку с проверками по утечкам, отслеживающим пикселям и обращению с чувствительными данными.

Для разработчиков и компаний это плохая среда для частичных решений. Нельзя отдельно купить модель, отдельно подписать договор с поставщиком и считать, что на этом вопрос закрыт: регулятор всё чаще будет смотреть на весь контур сразу — согласие, данные, поставщиков, безопасность, отчётность и то, кто именно отвечает за последствия.

Источник: IAPP