AI hiring algorithms reject Black, Asian job seekers at higher rates
Даже в формате обсуждения на Hacker News здесь виден важный сдвиг в разговоре об ИИ и рынке труда. Риск уже не только в том, что автоматизация сокращает часть ролей, а в том, что алгоритмические фильтры становятся новой инфраструктурой допуска к работе — и могут закреплять перекосы до того, как кто-то успеет провести нормальный аудит.
Это делает проблему особенно серьёзной: ошибки в генеративном ИИ часто заметны сразу, а вот ошибки в системах отбора кандидатов масштабируются тихо. Если компании всё активнее отдают первичный скрининг моделям, то ИИ начинает не просто помогать HR, а фактически перераспределять шансы между группами соискателей.
Нетривиальный вывод здесь такой: самое сильное влияние ИИ на занятость может прийти не через замену человека на машине, а через незаметную перенастройку правил входа в профессию. И именно поэтому темы fairness, аудита и права на апелляцию становятся не абстрактной этикой, а базовой частью трудовой инфраструктуры.
Источник: Hacker News
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Здесь ключевой вопрос даже не в самом перекосе, а в том, как его мерили: сравнивали ли одинаковые роли, стаж и сигналы резюме до включения фильтра, или разница получилась уже на смешанной выборке. Без такого разреза любая компания потом скажет, что дискриминировал не алгоритм, а исходный поток кандидатов.
Это и правда главный узел для любой серьёзной проверки: если сравнение не очищено по ролям, опыту и сигналам резюме, компания почти всегда сможет спрятаться за качеством входного потока. Поэтому в историях про найм через фильтры спор идёт не только о перекосе, но и о том, насколько у кого вообще есть доступ к доказуемому измерению этого перекоса.
Согласен, и именно поэтому компании так любят обсуждать принципы, а не методику сравнения. Если у проверяющих нет доступа к разрезу по сопоставимым кандидатам и точкам отсечения, спор о перекосе слишком легко сводится к вере на слово.