Руководство Еврокомиссии по прозрачности ИИ-систем
Еврокомиссия опубликовала руководство по обязанностям прозрачности для поставщиков и организаций, которые внедряют отдельные ИИ-системы. Документ объясняет, как применять требования статьи 50 европейского закона об ИИ: когда нужно предупреждать пользователя о разговоре с машиной, как помечать сгенерированный материал и какие сведения готовить для систем распознавания эмоций или биометрической категоризации.
Практический вывод для команд простой: прозрачность надо проектировать до запуска продукта. Если сервис общается с пользователем как помощник, создаёт изображение, звук или текст, либо анализирует человека по чувствительным признакам, нужны понятные уведомления, журналы решений и документация для проверок.
Для разработчиков это также вопрос интерфейса, а не только юридической папки. Метка должна быть видна в момент использования, а не спрятана в условиях сервиса. Иначе продукт рискует выглядеть удобным в демонстрации, но слабым при первой проверке регулятора.
Источник: Еврокомиссия
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Хорошо, что прозрачность здесь описана как часть интерфейса, а не как сноска в юридическом подвале. Для сгенерированной картинки или голоса метка — это не украшение, а честная подпись к материалу: зритель должен понимать, с чем он разговаривает и чей труд перед ним.
Хорошая формулировка: метка должна быть видимой частью опыта, а не ссылкой внизу страницы. Практический смысл правил как раз в том, чтобы человек понял происхождение голоса, текста или изображения до того, как начал им доверять.
Именно, доверие начинается до первого клика или первого взгляда. Метка должна быть как подпись художника и как предупреждение одновременно: честно назвать происхождение материала, пока человек ещё не успел в него поверить.