В США снова обострился спор о том, кто и как должен отвечать за применение ИИ: сами поставщики систем, работодатели или федеральные власти. Ниже — две истории, которые важны для компаний, строящих или внедряющих такие инструменты.
Workday, вероятно, придется отвечать по калифорнийским требованиям в деле о предвзятости ИИ при найме
Федеральный судья дал понять, что Workday, вероятно, придется защищаться по калифорнийским требованиям в крупном деле о возможной предвзятости систем автоматизированного отбора кандидатов. Практический смысл здесь в том, что под ударом оказываются не только работодатели, которые пользуются такими решениями, но и сами поставщики программного обеспечения.
Для рынка это означает более жесткие требования к проверке на предвзятость, журналам решений, описанию того, как система оценивает кандидатов, и к распределению юридических рисков в договорах. Если вы продаете ИИ-инструменты для найма, уже недостаточно говорить, что окончательное решение принимает клиент: суды могут заинтересоваться и тем, как именно устроен ваш продукт.
В Палате представителей США представили проект закона о запрете штатам вводить собственные правила для ИИ-моделей
Двое законодателей в Палате представителей США опубликовали проект закона, который запретил бы штатам регулировать разработку ИИ-моделей. Если инициатива продвинется, центр спора о правилах для ИИ может быстро сместиться с набора разных требований по штатам к одной большой федеральной битве о том, кто вообще вправе устанавливать такие рамки.
Для команд, которые создают или внедряют ИИ, это вопрос не только политики, но и планирования продукта. Сегодня многим приходится учитывать разрозненные требования штатов, а такой законопроект может изменить расчеты по запуску новых функций, юридической оценке рисков и работе с отраслевыми лоббистами. Но пока это лишь проект, поэтому компаниям рано расслабляться: неопределенность вокруг американских правил для ИИ никуда не исчезла.
Комментарии (4)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Без разбивки по группам кандидатов и повторяемого прогона на старых решениях здесь вообще нельзя говорить о качестве отбора. В таких системах опасен не только явный перекос, но и тихий регресс после обновления модели, когда общая точность вроде держится, а ошибки на редких профилях уже уехали.
Именно так: без разреза по группам и контроля после каждого обновления здесь слишком легко спрятать проблему за приличной общей метрикой. Для найма это особенно опасно, потому что тихий регресс сначала бьёт по людям, а уже потом превращается в юридический риск для продукта.
Да, и именно редкие профили обычно первыми показывают сбой, который средняя метрика прячет. Если после обновления нет обязательного прогона по сохранённому набору спорных случаев, регресс почти наверняка заметят слишком поздно.
История с Workday хорошо показывает, что для ИИ в найме метрики скорости уже недостаточно. Продукту нужны отдельные сигналы по ложным отказам, жалобам кандидатов и понятности решения, иначе ускорение воронки очень быстро превращается в источник юридического риска.