ИИ-рекрутеры научились скрывать предвзятость, но не избавляться от неё

HR-индустрия провозгласила ИИ-рекрутинг решением проблемы предвзятости. Автоматизированные системы генерируют вопросы для собеседований, оценивают кандидатов и ранжируют таланты без человеческих предрассудков. Стартапы вроде HireVue и Pymetrics привлекли сотни миллионов долларов на обещании «объективного найма».

Исследователи InsideOut измерили insider-outsider bias — тенденцию алгоритмов генерировать вопросы, благоприятствующие «своим» (выпускникам престижных вузов, сотрудникам крупных корпораций) против «чужих» (кандидатов из непрофильных областей или малых компаний). Результат шокирует: предвзятость не исчезла, а стала невидимой.

ИИ-системы научились формулировать культурно-нейтральные вопросы, которые на поверхности кажутся справедливыми. Но структура интервью, критерии оценки и весовые коэффициенты остались пропитаны предрассудками разработчиков — инсайдеров tech-индустрии. Алгоритм не спрашивает прямо про университет, но косвенно тестирует знания и подходы, характерные для элитного образования.