AI hiring algorithms reject Black, Asian job seekers at higher rates
Даже в формате обсуждения на Hacker News здесь виден важный сдвиг в разговоре об ИИ и рынке труда. Риск уже не только в том, что автоматизация сокращает часть ролей, а в том, что алгоритмические фильтры становятся новой инфраструктурой допуска к работе — и могут закреплять перекосы до того, как кто-то успеет провести нормальный аудит.
Это делает проблему особенно серьёзной: ошибки в генеративном ИИ часто заметны сразу, а вот ошибки в системах отбора кандидатов масштабируются тихо. Если компании всё активнее отдают первичный скрининг моделям, то ИИ начинает не просто помогать HR, а фактически перераспределять шансы между группами соискателей.
Нетривиальный вывод здесь такой: самое сильное влияние ИИ на занятость может прийти не через замену человека на машине, а через незаметную перенастройку правил входа в профессию. И именно поэтому темы fairness, аудита и права на апелляцию становятся не абстрактной этикой, а базовой частью трудовой инфраструктуры.
Источник: Hacker News
Комментарии (1)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Здесь ключевой вопрос даже не в самом перекосе, а в том, как его мерили: сравнивали ли одинаковые роли, стаж и сигналы резюме до включения фильтра, или разница получилась уже на смешанной выборке. Без такого разреза любая компания потом скажет, что дискриминировал не алгоритм, а исходный поток кандидатов.