Справедливость в найме с применением ИИ: проблемы, показатели, методы и будущие направления

Реферат

Процесс найма имеет решающее значение для способности организации позиционировать себя для достижения успеха — от поиска квалифицированных и хорошо подходящих кандидатов на должность до влияния на её результаты и культуру. Поэтому на протяжении последнего столетия специалисты по управлению персоналом и организационные промышленные психологи разработали практики найма, такие как привлечение кандидатов с помощью объявлений о вакансии, оценка навыков кандидатов с помощью тестирований и использование вопросов интервью для оценки соответствия кандидата организации. Однако с появлением больших данных и машинного обучения традиционный процесс найма претерпел быстрые изменения: многие организации перешли к использованию искусственного интеллекта (AI). Учитывая распространённость найма с применением AI, растёт обеспокоенность тем, что человеческие предвзятости могут переноситься на решения, принимаемые этими системами, усиливая эффект за счёт систематического применения. Эмпирические исследования выявили распространённые предвзятости в программном обеспечении для ранжирования кандидатов и во взаимодействиях с чатботами, что стало катализатором растущего массива исследований, посвящённых fairness в AI, за последнее десятилетие. В данной статье представлен исчерпывающий обзор этой развивающейся области: рассматриваются типы предвзятостей, встречающиеся в найме, основанном на AI, изучаются различные метрики fairness и методы смягчения, а также анализируются инструменты для аудита таких систем. Мы выделяем текущие трудности и намечаем дальнейшие направления для разработки справедливых приложений для найма с применением AI, обеспечивая равноправное отношение к кандидатам и улучшая организационные результаты.

I Введение

Процесс найма имеет решающее значение для успеха организации, влияя как на отбор квалифицированных кандидатов, так и на общую организационную культуру и эффективность. Традиционные практики найма, такие как объявления о вакансиях, оценка навыков и тесты личности [1], были всесторонне изучены специалистами по управлению персоналом (HR) и организационными психологами. Эти практики существенно влияют на организационные результаты, включая эффективность, текучесть сотрудников и продуктивность [2, 3]. Кроме того, эти результаты затрагивают миллионы соискателей работы каждый год, поскольку медианная продолжительность занятости в США составляет 4,2 года, а люди за свою карьеру занимают в среднем 12,3 рабочих места [4]. В ответ на меняющиеся потребности организации все чаще внедряют инновационные стратегии найма, чтобы повысить долгосрочный успех и оптимизировать процесс подбора подходящих соискателей работы.

За последние тридцать лет процесс найма претерпел значительную трансформацию, постепенно смещаясь в сторону цифрового рекрутинга. Эту эволюцию можно разделить на три distinct фазы. Первая фаза, цифровой рекрутинг 1.0, появилась в середине—конце 1990-х годов и была отмечена появлением онлайн-описаний вакансий, а также возможностью для соискателей подавать электронные резюме и заявки [5]. Вторая фаза, цифровой рекрутинг 2.0, началась в следующее десятилетие с ростом сайтов с вакансиями, таких как Indeed и Monster [5]. Эти платформы агрегировали предложения о работе от различных организаций, предоставляя соискателям функции поиска и рекомендации, чтобы находить позиции, соответствующие их интересам и карьерным целям [5]. Текущая фаза, цифровой рекрутинг 3.0, обусловлена внедрением искусственного интеллекта (AI), который произвел революцию в практиках рекрутинга на платформах вакансий, в онлайн-сетевых сервисах и в HR-приложениях [5]. Сегодня AI широко используется организациями для различных задач, включая создание объявлений о вакансиях, системы отслеживания кандидатов, проведение видео- и телефонных интервью, а также внедрение геймифицированных оценочных процедур [6, 1, 5].

I-A Мотивация

Растущая зависимость рекрутинга от ИИ обусловлена доказанной эффективностью в различных задачах управления персоналом. Одно из ключевых направлений — отбор кандидатов на должность, где цифровые методы, как показано, позволяют ускорить процесс и потенциально снизить человеческую предвзятость [6]. Для крупных организаций, обрабатывающих тысячи или даже миллионы заявок, автоматизированные методы рекрутинга стали все более необходимыми [5, 7, 6]. ИИ также играет заметную роль в создании объявлений о вакансиях: большие языковые модели (LLMs) вроде ChatGPT используются для подготовки и описания необходимых навыков и квалификаций, тем самым привлекая подходящих кандидатов [8]. Кроме того, LLMs применяются для генерации вопросов для собеседований и для уточнения коммуникаций с кандидатами на работу [8]. Учитывая существенный сдвиг в сторону удаленной работы, особенно после пандемии COVID-19, ожидается, что зависимость от ИИ для решений по найму и рекрутингу будет значительно расти [9, 10]. Эта интеграция ИИ в процессы рекрутинга подтверждается недавними статистическими данными: по состоянию на 2019 год 88% организаций во всем мире использовали ту или иную форму ИИ в своих рекрутинговых активностях. В частности, 41% применяли AI-чатботов для вовлечения кандидатов, 44% использовали ИИ для выявления кандидатов из социальных сетей и других публичных данных, а 43% использовали ИИ для рекомендаций по обучению кандидатам [11]. По мере увеличения доступности облачного хранилища и вычислительных ресурсов распространенность ИИ-приложений в рекрутинге, как ожидается, будет продолжать расти.

Однако по мере того, как внедрение ИИ становится более распространенным, растут опасения, что решения, принимаемые этими системами, могут находиться под влиянием предвзятости организационного персонала или разработчиков моделей, о чем свидетельствуют несколько недавних инцидентов [1]. Например, в 2015 году система рекомендаций вакансий Google демонстрировала гендерную предвзятость: объявления о высокооплачиваемых вакансиях показывались мужчинам чаще, чем женщинам [12]. Аналогично, в 2017 году инструмент Amazon для оценки кандидатов на основе ИИ был прекращен из‑за дискриминационной практики присвоения более низких оценок резюме женщин, что объяснялось недостаточной представленностью женщин‑кандидаток в данных обучения модели [13, 1]. Кроме того, в 2019 году система Facebook для показа объявлений о жилье и работе столкнулась с похожими проблемами: объявления о работе были смещены в зависимости от пола и расы пользователей [14]. Эти примеры показывают, как предвзятость, часто встречающаяся в процессе найма, такая как дискриминация при найме [15], может легко переноситься на ИИ‑системы через данные, используемые для обучения алгоритмов. Хронология хорошо известных случаев предвзятости в ИИ, связанных с рекрутинговыми приложениями, показана на рисунке 1. Следовательно, предвзятость ИИ в приложениях для HR уже является серьезной проблемой, и по мере того, как использование ИИ продолжает быстро расти, ее значимость в будущем резко возрастет.

I-B Сопутствующие работы и наши вклад

Эта статья представляет всесторонний обзор справедливости в машинном обучении (ML), глубоком обучении и системах ИИ, ориентированных на подбор персонала и найм, опираясь на наш предыдущий обзор [1]. Предыдущие исследования и обзоры изучали смещения в подборе персонала, не основанном на ИИ, выявляя проблемы, такие как предвзятость подтверждения (принятие решений в первые несколько минут встречи с кандидатом) и предвзятость привязки ожиданий (когда решение под влиянием одной части информации), а также рассматривая, как и где ИИ может применяться в рекрутинге [16, 17, 18, 19, 20, 21, 22]. Кроме того, в предыдущих работах был рассмотрен ряд конкретных компонентов процесса найма, таких как оценки, выполняемые на основе ИИ [23], автоматизированные видеоинтервью [24], и их восприятие кандидатами на должность [22].

Однако остается необходимость в систематическом обзоре литературы по алгоритмической справедливости в ИИ-ориентированном найме, охватывающем все этапы процесса подбора персонала, где ИИ может применяться. Эта потребность подчеркивается ростом распространенности ИИ в рекрутинге, о чем свидетельствует опрос 2022 года: до 86% работодателей сообщили об использовании технологии-ориентированных собеседований, при этом многие предпочитали автоматизированные видеособеседования [25]. Дополнительные примеры использования ИИ включают применение LLM для подготовки инклюзивных описаний вакансий, использование чатбот-систем для взаимодействия с кандидатами до непосредственного контакта с рекрутером, а также интеграцию ИИ в системы отслеживания кандидатов для проверки резюме [8, 6, 1, 5]. Кроме того, опрос 2024 года показал, что каждый четвертый рекрутер уже использовал ИИ в той или иной степени [26].

В этой статье рассматривается пробел в литературе посредством систематического обзора алгоритмической справедливости в ИИ-решениях для найма, внося ряд ключевых вкладов. Во-первых, мы исследуем определения справедливости, доверия и правосудия, опираясь на I-O психологию, практики управления персоналом и законодательные рамки, чтобы обеспечить базовое понимание для анализа смещений в найме, основанном на ИИ (раздел II). Во-вторых, мы обсуждаем этические и правовые принципы, регулирующие справедливость в ИИ, подчеркивая действующие нормы и руководства, которые определяют практики справедливого ИИ в найме (раздел II-B). В-третьих, мы выявляем и классифицируем различные причины смещений в системах ИИ, включая смещения в обучающих данных, определения меток, выбор признаков, прокси-показатели и маскирование (раздел II-C). Наше исследование охватывает все этапы процесса найма — поиск кандидатов, отбор, собеседования и выбор — демонстрируя, как смещение может быть внесено и как его можно снижать на каждом шаге (раздел III). В-четвертых, мы рассматриваем разнообразные метрики справедливости, включая индивидуальную справедливость, групповую справедливость, процедурную справедливость и справедливость в регрессии, обсуждая их значимость для работодателей, соискателей и платформ найма (раздел IV-A). В-пятых, мы классифицируем и оцениваем стратегии снижения смещений, разделяя их на методы предварительной обработки, обработки в процессе и постобработки, подчеркивая их важность и применение для обеспечения справедливых практик найма, основанных на ИИ (раздел IV-B). В-шестых, мы рассматриваем ограничения существующих инструментов и методов для обнаружения и снижения смещений (раздел IV) и намечаем будущие вызовы в этой области (раздел IV-C). Наконец, раздел V представляет заключительные замечания и суммирует ключевые результаты. Решая эти критически важные аспекты, наша работа стремится заложить всеобъемлющую основу для продвижения справедливых практик ИИ в найме.

II Фон

Перед измерением смещенности важно определить понятие «справедливость», чтобы обеспечить последовательное сравнение и оценку ИИ при найме. Следующие разделы приводят определения справедливости в контексте организационного найма (раздел II-A), описывают соответствующие законодательные нормы, определяющие справедливость (раздел II-B), и рассматривают распространенные причины смещенности в системах ИИ (раздел II-C).

⟦Figure 1: Хронология отчетов, выявляющих смещение в ИИ-системах, связанных с текущими заявками на найм или влияющих на них [13, 27, 12, 28, 29, 14, 30, 31, 32, 33, 34, 35, 36, 37].

II-A Связь справедливости с доверием и правосудием

Термины «справедливость», «доверие» и «правосудие» тесно связаны и часто используются как взаимозаменяемые [38]. Прежде чем дать определение справедливости, полезно рассмотреть ее связь с доверием и правосудием, особенно в контексте найма на основе ИИ.

Во-первых, доверие в I-O психологии определяется как психологическое состояние убежденности относительно того, как система, человек или организация будут действовать в будущем на основе предшествующих взаимодействий [39, 38]. Доверие требует времени для формирования и становится более значимым, когда воспринимаемая неопределенность и риск возрастают (например, когда риск потери работы высок) [38]. Однако доверие легко утратить, и, однажды утраченное, его очень трудно восстановить, что заставляет работников и сотрудников подвергать сомнению справедливость организационных действий [38]. Поэтому доверие к найму на основе ИИ существенно влияет на восприятие соискателем справедливости процесса набора в организации.

Доверие к технологиям включает в себя человеческие характеристики (например, личностные особенности и способность), характеристики среды (например, культурный фон и институциональные факторы) и технологические характеристики (например, производительность, такая как отзывы других пользователей, и согласованность целей, обеспечивающая соответствие целей ИИ целям человека/организации) [40]. Конкретными факторами, препятствующими доверию к ИИ, являются его роль в технологическом вытеснении, недостаток прозрачности и опасения по поводу приватности, возникающие из-за сбора и опоры на крупные обучающие наборы данных [40]. Опрос 2019 года подчеркивает отсутствие доверия к ИИ: он показывает, что 88% американцев относятся к ИИ-управляемому подбору персонала с недоверием [41, 42], а по состоянию на 2023 год 71% выступают против того, чтобы ИИ принимал окончательные решения о найме [43]. Поэтому даже если разработчики моделей учитывают метрики справедливости и меры предосторожности, доверие соискателя будет существенно влиять на воспринимаемую справедливость любых решений, основанных на ИИ.

Организационная справедливость в данном контексте относится к справедливому обращению в организационных процессах и результатах, например при найме [38]. Организационная справедливость имеет решающее значение, поскольку она существенно влияет на восприятие справедливости [38]. Литература выделяет три основных типа организационной справедливости: дистрибутивную, процедурную и интеракционную. Дистрибутивная справедливость связана с воспринимаемой справедливостью распределения результатов или вознаграждений по отношению к людям внутри организации. Это может основываться на норме заслуг или равенства (то есть те, кто работает больше или производит больше, должны получать более высокие вознаграждения), на норме потребностей (то есть вознаграждения распределяются в соответствии с потребностями отдельных людей) или на норме равенства (то есть все люди получают равные вознаграждения независимо от усилий или потребностей) [38, 44]. Процедурная справедливость — это воспринимаемая справедливость процессов, посредством которых распределяются вознаграждения [38, 44]. Наконец, интеракционная справедливость касается воспринимаемой степени того, как организация относится к человеку или сотруднику с уважением. Интеракционная справедливость имеет два аспекта: межличностная справедливость, относящаяся к степени уважения и вежливости, проявляемых по отношению к людям, и информационная справедливость, отражающая, насколько хорошо организация объясняет свои процедуры и результаты отдельным людям, обеспечивая, чтобы коммуникация была откровенной, всеобъемлющей и своевременной [38].

В процессе найма эти аспекты доверия и измерения организационной справедливости все влияют на то, как определяется справедливость в соответствии с исследованиями ИИ по справедливости и прежним законодательством, как будет далее описано.

II-B Справедливость согласно законодательству и этическим принципам

В сообществе ML группа FAT/ML (справедливость, подотчетность и прозрачность) установила пять руководящих принципов, которые помогают разработчикам и руководителям продуктов при проектировании и внедрении алгоритмов автоматизированного принятия решений, обеспечивающих подотчетность: ответственность, объяснимость, точность, аудируемость и справедливость [45]. Группа также рекомендует придерживаться принципов конфиденциальности ОЭСР и этических принципов, изложенных в отчете Belmont, для исследований с участием людей, чтобы обеспечить подотчетность алгоритмов [46].

Кроме того, в 2020 году Министерство обороны США определило пять этических принципов для своих систем ИИ: ответственный, справедливый, поддающийся отслеживанию, надежный и управляемый [47, 48]. После этого многие компании, включая Google [49] и OpenAI [50], разработали аналогичные руководящие принципы для обеспечения этического развития и интеграции своих технологий ИИ.

Также появились нормативные акты, регулирующие технологии, чтобы повысить справедливость в системах ИИ. Например, в 2018 году Европейский союз ввел в действие Общий регламент по защите данных (GDPR) для защиты частных лиц в отношении конфиденциальности, обработки и свободного перемещения персональных данных [51]. Кроме того, в 2021 году Европейская комиссия учредила первую правовую основу по ИИ, разделив системы ИИ на различные уровни риска [52]. Эти уровни включают минимальный риск, такой как ИИ-игры с поддержкой видеоигр или спам-фильтры, которые создают минимальный или вообще не создают риска для прав или безопасности гражданина; ограниченный риск, когда ИИ-системы, такие как чатботы, информируют пользователей о том, что они взаимодействуют с машиной, и позволяют им принимать обоснованные решения до продолжения использования; высокий риск, охватывающий ИИ-системы, критически важные для инфраструктуры, профессионального обучения и важнейших государственных услуг, таких как кредитный скоринг, правоохранительные органы и миграция; и недопустимый риск, связанный с ИИ-системами, которые создают явную угрозу безопасности и правам людей [52].

Национальный институт стандартов и технологий (NIST) и Федеральная торговая комиссия (FTC) также подчеркнули необходимость выявлять и управлять смещениями в ИИ [53, 54]. В частности, FTC предостерегала от продажи систем с расовыми смещениями, которые могли бы помешать людям получить работу, страхование или иные льготы. FTC указала три закона для разработчиков и пользователей ИИ: Раздел 5 Закона FTC, который запрещает недобросовестные или вводящие в заблуждение практики; Закон о добросовестной кредитной отчетности Fair Credit Reporting Act, который обеспечивает, чтобы алгоритмы не отказывали людям в жилье или кредите несправедливо; и Закон о равных возможностях получения кредита Equal Credit Opportunity Act, который запрещает алгоритмам принимать предвзятые кредитные решения на основе расы, цвета кожи, религии, национального происхождения, возраста, пола, семейного положения или статуса получателя государственной помощи [53, 55].

Администрация Байдена создала Специальную целевую группу по Национальному исследовательскому ресурсу для ИИ [56], как предписано Конгрессом в Законе о национальной инициативе по ИИ 2020 года, чтобы продвинуть исследования в области ИИ и изучить последствия применения ИИ [57]. После этого появились дополнительные законодательные акты, такие как Закон 2020 года о алгоритмической справедливости [58], а только в 2021 году 17 штатов внесли предложения по регулированию ИИ [59]. Примечательно, что Нью-Йорк (город) принял закон (действующий с 2023 года), запрещающий использование инструментов автоматизированного принятия решений для отбора кандидатов на работу без предварительных аудитов на наличие смещений и прозрачности в отношении их применения [60]. По состоянию на 2023 год 25 штатов США внесли законопроекты по ИИ, и 18 штатов приняли либо ввели в действие законодательство по ИИ [61].

Законодательство, направленное на обеспечение справедливости в сфере занятости и найма, исполняется Комиссией США по равным возможностям при трудоустройстве (EEOC). Эти законы делают незаконной дискриминацию в отношении лиц по признаку расы, цвета кожи, религии, национального происхождения, пола, сексуальной ориентации или гендерной идентичности либо выражения, как это предусмотрено в Разделе VII Закона США о гражданских правах 1964 года, с поправками, внесенными Законом о гражданских правах 1991 года. Кроме того, поправка Закона о дискриминации по признаку беременности к Разделу VII защищает женщин от дискриминации, связанной с беременностью или родами. Закон о равной оплате труда 1963 года запрещает дискриминацию в оплате труда и льготах на основании пола. Закон о возрастной дискриминации при трудоустройстве 1967 года защищает лиц в возрасте 40 лет и старше от возрастной дискриминации. Закон об американцах с ограниченными возможностями 1990 года (Раздел I) и Разделы 501 и 505 Закона о реабилитации 1973 года гарантируют защиту квалифицированным лицам с инвалидностью. Закон о недопущении дискриминации по генетической информации 2008 года запрещает дискриминацию на основе генетической информации [62]. Кроме того, Четырнадцатая поправка к Конституции США предоставляет работникам гарантии надлежащей правовой процедуры [63]. В 2021 году EEOC запустила инициативу, чтобы гарантировать, что AI и инструменты, используемые при найме и в сфере занятости, соответствуют этим законам [64], и по состоянию на 2023 год она предоставила дополнительные рекомендации работодателям [65].

Ранее, для отбора сотрудников, EEOC установила требование, обеспечивающее справедливое обращение с кандидатами на должность путем предотвращения неблагоприятного воздействия из-за решений о найме [66, 67]. Согласно рекомендациям EEOC, неблагоприятное воздействие определяется путем применения правила четырех пятых или восьмидесяти процентов. Это правило гласит, что показатель отбора для защищенной группы должен быть как минимум равен четырем пятым (или 80%) показателя для группы с наивысшим показателем отбора [67]. Например, как показано в Таблице I, если показатель отбора для чернокожих заявителей составляет 50% показателя отбора для белых заявителей, то он оказывается ниже порога 80%, что указывает на неблагоприятное воздействие [67].

Applicants	Hired	Selection Rate	Percent Hired
80 White	48	48/80	60%
40 Black	12	12/40	30%

⟦TABLE I: Пример различия показателя доли отбора, демонстрирующий неблагоприятное воздействие.

Правило четырех пятых недавно оказалось под пристальным вниманием, и предложено законодательство, выступающее за меньшую разницу в показателях отбора [68]. Из этого и других законодательных инициатив в литературе по ИИ возникли два ключевых определения дискриминации: неодинаковое обращение, под которым понимаются преднамеренно дискриминационные практики, ориентированные на отдельных лиц на основе их защищенных признаков; и неодинаковое воздействие, которое включает практики, приводящие к непропорционально неблагоприятному эффекту для защищенных групп [67, 69, 70]. Хотя может показаться, что эти требования можно выполнить, просто исключив защищенные атрибуты из данных обучения, многие ситуации по‑прежнему возникают, когда, несмотря на эти меры — а иногда и вследствие них — принимаются несправедливые решения. Например, в обработке естественного языка (NLP) модель может выводить пол кандидата по его имени, это явление известно как косвенная дискриминация или дискриминация через признаки, неявно присутствующие в наборе данных [69]. Поэтому для достижения справедливости в системе принятия решений необходимо устранить первопричины смещения в данных. Этому посвящено следующее.

II-C Причины смещения

Существует несколько распространенных способов, с помощью которых человеческая предвзятость может быть перенесена в модель ИИ [66, 1, 71]:

1. ⟦ Данные обучения: Если данные обучения искажены, ИИ-система, обученная на них, будет усваивать и распространять это искажение. Это может происходить из-за смещенной выборки, когда одна группа непропорционально часто представлена в достижении определенного результата по сравнению с другой, или из-за загрязненных результатов разметки (например, если набор данных был вручную размечен людьми, любые присущие людям предубеждения могут быть перенесены на метки).
2. ⟦ Определения меток: целевая метка в ИИ представляет собой результат, который модель стремится предсказать. Выбор целостного или нечеткого определения целевого результата может привести к более выраженному разрозненному эффекту. Например, если руководитель создает модель классификации для прогнозирования того, что кандидат на работу является «хорошим» наймом, могут применяться различные определения для принятия решения о «хорошем» найме [66]. Такие факторы, как мотивация сотрудника, соответствие «человек—работа» (то есть согласованность кандидата с должностью), прогнозируемый срок работы или соответствие «человек—среда» (то есть совместимость кандидата с культурой организации и рабочей средой) обычно определяют, насколько хорошо кандидат подходит организации, и их ожидаемую результативность после найма [72, 73, 66]. Однако выбор метки, имеющей систематически несоразмерно большую величину для членов защищенного класса, может смещать прогнозы модели [66]. Например, использование прогнозируемого срока работы в качестве целевой метки, что может казаться приемлемым для работодателя, может привести к смещению против женщин, если исторические данные показывают более низкие показатели срока работы у женщин по сравнению с мужчинами [66].
3. ⟦Выбор признаков: Признаки — это атрибуты, которые описывают или помогают определить результат, который ИИ-модель использует при прогнозировании. Хотя выбор признаков может повышать точность модели за счет уменьшения сложности данных и времени обучения [74], он также может приводить к смещению, если статистическая вариативность между людьми в защищенных группах недостаточно хорошо представлена для конкретного признака [66]. Признаки могут не обладать необходимой детализацией, чтобы ИИ-модель могла обучиться точной классификации для защищенных групп [66]. Например, академические квалификации и колледж, который закончил соискатель, обычно используются при найме; однако если представители защищенной группы заканчивают некоторые колледжи с непропорционально более высокой или более низкой частотой, ИИ-модель может ошибочно классифицировать соискателей из защищенной группы, даже если они соответствуют требованиям для работы [66].
4. ⟦ Прокси: даже при удалении защищённых атрибутов из обучающих данных по составу группы можно сделать вывод на основе других атрибутов, что потенциально может привести к предвзятым решениям. Например, заявка на трудоустройство в Amazon была предвзятой даже без использования атрибута «пол», потому что модель могла сделать вывод о поле по образовательному учреждению, указанному в резюме кандидатов (например, колледжи только для женщин или только для мужчин) [13]⟧.
5. ⟦Маскирование: Если разработчики модели или работодатели придерживаются предвзятых взглядов, они могут собирать примеры данных или проектировать признаки, которые намеренно смещают модель ИИ [66]. Эта практика известна как маскирование, когда используется представление данных (например, применение только грубозернистых признаков модели, которые скрывают детальную информацию о группах) для обоснования предвзятости модели ИИ в отношении определенных защищаемых групп [66].

III Смещение в ИИ-основанном подборе персонала

Литература по психологии подбора персонала и промышленно-организационной психологии обычно разделяет рекрутинговый конвейер организации на четыре этапа, как показано на рисунке 2 [21, 38, 75]. В этом разделе представлен обзор практик, основанных на ИИ, потенциальных смещений и усилий по обеспечению справедливости на каждом этапе процесса найма.

⟦Figure 2: Обзор шагов в типичном конвейере подбора персонала: (1) поиск кандидатов (после анализа вакансии), (2) отбор кандидатов, (3) собеседования с кандидатами и (4) выбор и предложение с последующей оценкой после принятия решения.

III-A Поиск источников

Первая стадия процесса набора начинается с анализа вакансии, при котором работодатель определяет должность в организации и требуемый опыт, знания, навыки, способности и другие соответствующие характеристики (KSAOs). На этой стадии также оцениваются критерии соответствия человека и среды [72, 76, 77], что включает в себя оценку того, насколько ценности и личностные качества конкретного человека согласуются с рабочей культурой компании.

После анализа работы работодатель переходит к поиску кандидатов, что предполагает формирование пула потенциальных кандидатов путем привлечения соискателей к подаче заявок. Это достигается за счет составления объявлений о вакансии, отражающих выявленные KSAOs, проведения работы рекрутеров по прямому контакту и использования рекомендаций сотрудников [38, 75].

В этом контексте были разработаны основанные на ИИ методы как для этапа анализа работы, так и для этапа подбора кандидатов. Платформы подбора кандидатов на основе ИИ, такие как HireEZ [78] и Arya [79], используют ИИ, чтобы охватить более широкую и более разнообразную группу кандидатов [80]. Кроме того, LLM применяются для различных задач, включая составление объявлений о вакансиях [81], проведение анализа работы и подбор кандидатов через интерфейсы, основанные на запросах, такие как TalentGPT [82, 83]. Другие сервисы, работающие на основе ИИ, такие как Textio, BrightHire и SeekOut [84, 82, 85, 86], также доступны для оптимизации процесса подбора кандидатов.

Однако две заметные области смещения могут возникать в программном обеспечении для подбора, основанном на ИИ. Первая область смещения связана с текстом объявлений о вакансиях: было обнаружено, что в них используются гендерно окрашенные ключевые слова и фразы, а также они закрепляют смещения по возрасту и расовому признаку [81, 87, 88, 89, 86]. Для решения этой проблемы такие сервисы, как Textio, используют ИИ для предоставления нейтрального языка и снижения потенциального смещения [81]. К сожалению, многие объявления о вакансиях не проходят проверку на наличие смещения в формулировках, что может негативно повлиять не только на время и ресурсы, которые организации тратят на поиск подходящих кандидатов, но и на доверие и самоэффективность, или уверенность, соискателя [90, 6, 4]. Смещенные объявления о вакансиях также могут влиять на рекомендации объявлений о работе, формируемые с помощью ИИ, приводя к тому, что пользователям показываются искаженные объявления, как это наблюдалось в предыдущих исследованиях по рекомендациям объявлений о вакансиях в Facebook и Google [14, 12].

Системы рекомендаций по вакансиям, используемые соискателями для просмотра объявлений о работе, в значительной степени полагаются на ИИ для сопоставления резюме с объявлениями в своей базе данных, что часто приводит к смещённым рекомендациям. Примерами таких платформ являются LinkedIn [91] и Indeed [92], где вакансии агрегируются для соискателей с целью поиска, тогда как рекрутеры часто ищут пассивных кандидатов — лиц, которые не ищут работу активно, но хорошо соответствуют конкретному объявлению [38]. Рекомендательные алгоритмы на этих сайтах обычно используют совместную фильтрацию [93], контентно-ориентированную фильтрацию [94, 93] или подходы к ранжированию по нескольким целям [95]. Однако содержание вакансий может приводить к смещённым рекомендациям, поскольку, по оценкам, 60% - 70% объявлений о вакансиях, размещённых в интернете, непропорционально представляют отрасли для работников высокой квалификации и профессии в сфере STEM [96]. Кроме того, системы показа объявлений могут быть смещены по гендерному и расовому признакам, что подтверждается данными о механизме рекомендаций по вакансиям Facebook в 2019 году [14]. Дополнительно, гендерное неравенство наблюдалось на досках объявлений о вакансиях, таких как Indeed, Monster и CareerBuilder, в 2018 году: 12 из 35 изученных названий должностей демонстрировали значительную групповую несправедливость [97].

Чтобы устранить такие смещения, было разработано несколько подходов. Например, Imana и соавт. проводят различие между перекосом при показе рекламы, вызванным защищенными признаками, и перекосом, обусловленным различиями в квалификации кандидатов [98]. Аналогично, Chen и соавт. [99] решают предвзятость, связанную со свежестью, в информационном поиске, управляемом ИИ, где недавний контент непропорционально сильно влияет на обучение модели, что приводит к смещению. Кроме того, Rus и соавт. [100] используют генеративную состязательную сеть, чтобы устранить гендерные смещения из представлений векторных слов в тексте объявлений о работе и резюме. Тем временем Li и соавт. моделируют задачу рекомендаций по вакансиям как задачу распределения ресурсов, повышая справедливость за счет поддержания согласованности между пользователями из разных защищенных групп [101]. Несмотря на эти усилия по смягчению когнитивных смещений в рекомендациях по работе и кандидатам, такие смещения могут сохраняться через обучающие данные [75].

III-B Отбор кандидатов

Следующий этап в найме, отбор кандидатов (или подбор кандидатов), включает фильтрацию первоначального набора профилей кандидатов, таких как резюме, на основе соответствия человека и работы. На этом этапе крупные компании, обрабатывающие тысячи заявок, часто используют инструменты ранжирования и отбора. Примеры методов отбора на основе ИИ включают те, которые предоставляют HireVue [102], Plum [103] и SeekOut [82]. Эти сервисы предлагают системы ранжирования и фильтрации резюме, оценки профессионального опыта и знаний кандидатов, а также оценку личности [77, 38, 104, 72].

Однако, как и в других областях применения ИИ, модели для отбора подвержены предвзятости, что наблюдалось в прошлых приложениях, таких как приложение Amazon для ранжирования резюме [13, 105]. Институциональные и системные предвзятости часто отражаются в моделях подбора и оценивания резюме, поскольку обучающие данные основаны на предыдущих решениях о найме, которые могут не включать представителей разных защищённых групп [75]. Кроме того, эти системы, часто основанные на NLP, могут генерировать вредоносные формулировки, поддерживать стереотипы или создавать неравное представительство разных групп [106]. Например, в 2016 году популярные word embeddings, представляющие собой фреймворки для представления текстовых данных в виде векторов для обучения в нейронных сетях, были обнаружены как содержащие гендерные стереотипы из‑за обучения на статьях Google News [106]. Позже было установлено, что GPT-3 генерирует сильные негативные стереотипы в отношении религиозных групп [34], и другие LLM, такие как GPT-4 и BERT, также подвергались проверкам на предмет предвзятости [107]. Эти предвзятости могут отрицательно влиять как на соискателей, так и на организации. Если из‑за предвзятости нанимают менее квалифицированных кандидатов, это может привести к дополнительным затратам времени и ресурсов на обучение и адаптацию, что потенциально ведёт к более низкой удерживаемости сотрудников и показателям удовлетворённости работой [90].

Учитывая важность процессов скрининга, многие исследователи сосредоточились на разработке методов для выявления и смягчения смещений. Например, Pena et al. [108, 109] предлагают стенд для алгоритмов скрининга резюме, чтобы выявлять смещение в оценках кандидатов в пяти сценариях с различными защищенными признаками. Аналогично, Deshpande et al. [110] решают проблему смещения путем переоценки значений tf-idf на основе метрик справедливости при сопоставлении резюме с описаниями вакансий. Burke et al. [111] представляют метод смягчения через ранжирование кандидатов. Хотя эти подходы представляют собой первоначальные усилия по смягчению смещения, нетекстовые признаки в моделях скрининга, такие как изображения (которые часто встречаются в онлайн-профилях), а также ключевые незашищенные признаки, например образовательная биография, все еще могут способствовать увековечиванию смещения. Эта проблема, когда нетекстовые признаки, такие как визуальные и аудиальные подсказки, способствуют смещению, особенно распространена при скрининге кандидатских видеозвонков или телефонных интервью.

III-C Интервьюирование кандидатов

Третий этап процесса найма включает собеседования с кандидатами для подробной оценки их KSAOs, рабочих ценностей, личности и других черт. За последнее десятилетие процесс найма все чаще опирался на ИИ для оценки этих черт во время собеседований. Использовались различные модальности ИИ, включая чат-боты для взаимодействия с кандидатами, автоматизированные видео- и телефонные собеседования, а также онлайн-оценки в формате вопрос–ответ [102, 23, 32, 75, 23]. Например, такие платформы, как HireVue [102] и BrightHire [85], в значительной степени зависят от ИИ для оценки видеоинтервью, выставляя кандидатам оценки на основе черт личности и их соответствия должности.

Однако в области ИИ-приложений, основанных на видео и изображениях, возникли опасения относительно потенциальных предвзятостей, что показано в различных исследованиях [112, 113, 114]. Эта проблема стала особенно заметной в 2021 году, когда HireVue прекратила использование своих видео-ориентированных систем оценки кандидатов, сославшись на отсутствие прозрачности в принятии решений ИИ как на основную причину [32]. Кроме того, в 2020 году Иллинойс принял закон об ИИ-видеоинтервью, ставший первой нормативной мерой, регулирующей применение ИИ при собеседовании соискателей на работу [115]. Этот закон требует, чтобы работодатели сообщали соискателям, что их собеседование будет оцениваться системой, управляемой ИИ, предоставляли характеристики, используемые системой ИИ при оценке, и получали согласие каждого соискателя перед проведением собеседования [115]. Помимо этого, исследования ИИ-систем видеоинтервью и чатботов выявили предвзятости, берущие начало в данных обучения [116, 117]. Например, в ходе исследований набора данных First Impressions, применявшегося в задачах ChaLearn 2017 на CVPR, были обнаружены предвзятые попарные метки, назначаемые участникам в отношении черт личности на основе пола и расы [118, 119]. Когда эти метки использовали для построения модели, предвзятости были дополнительно усилены за счет предсказаний модели [118, 119].

Для содействия справедливому отбору кандидатов исследователи внедрили различные стратегии для устранения этих предвзятостей. Например, Yan et al. предложили подход с использованием состязательного обучения для смягчения смещения в соответствии с метриками справедливости при прогнозировании черт личности [119]. Кроме того, Booth et al. [120] изучали измерение смещения в задачах аффективных вычислений, в частности в контексте имитационных видеособеседований. Существенные усилия также были направлены на разработку систем собеседования с чатботами, обеспечивающих справедливость. Исследователи изучали применение классификаторов, учитывающих справедливость, для смягчения вредоносного текстового содержания и выявления предвзятых запросов пользователей [121]. Обзор, выполненный Xue et al., [121], дает всестороннее представление об этих подходах и потенциальных предвзятостях в системах чатботов.

III-D Выбор и оценка

Окончательный этап процесса найма заключается в выборе одного или нескольких кандидатов на должность, после чего ведутся переговоры о предложении, которое затем используется для оценки общего процесса найма организации. ИИ был внедрен различными способами, чтобы помогать не только в отборе, но и в переговорах о предложениях о работе. Например, ИИ используется во время переговоров о предложении работы, чтобы выдавать рекомендации по зарплате и обучению, тем самым поддерживая процесс адаптации вновь нанятых сотрудников [75]. Это иллюстрируется программным обеспечением вроде Oracle Recruiting Cloud, которое не только прогнозирует вероятность того, что кандидат примет предложение, но и позволяет работодателям экспериментировать с различными структурами зарплат, пакетами льгот и другими стимулами для повышения вероятности принятия [75]. Кроме того, Pactum AI [122] автоматизирует различные переговорные процессы, такие как переговоры о зарплате и обсуждения условий контрактов, используя множество факторов, включая прогноз состояния рынка труда.

Хотя такой ИИ стремится создать более справедливый процесс переговоров, устраняя человеческие предвзятости, другие формы смещения все же могут возникать. Например, в отчете UpTurn за 2019 год было отмечено, что Oracle и другие инструменты для проведения переговоров, основанные на ИИ, могут усиливать асимметричность информации между кандидатом на должность и работодателем, потенциально приводя к несправедливому процессу для кандидата [75]. Кроме того, эти инструменты могут вступать в противоречие с законодательством, запрещающим использование истории заработной платы при решениях о приеме на работу, а также с Законом о равной оплате труда 1963 года, который требует равной оплаты для лиц, занимающих одну и ту же должность [75, 62].

Кандидаты на работу, которым не предлагают трудоустройство, часто сталкиваются с отсутствием прозрачности в отношении процессов принятия решений на основе ИИ со стороны работодателей. Согласно опросу, проведенному The Talent Board, 53.5% кандидатов сообщили, что после этапов отборочного собеседования и интервью они не получили никакой обратной связи, тогда как 69.7% не получили никакой обратной связи после отказа [123]. Хотя работодатели юридически не обязаны предоставлять объяснения [123], отсутствие обратной связи может отрицательно сказаться на воспринимаемой справедливости и доверии к процессу найма на основе ИИ. Прозрачность имеет решающее значение на каждом этапе процесса, включая информирование о результате по вакансии, поскольку это позволяет кандидатам учиться и совершенствоваться для будущих интервью. Предыдущие исследования показали, что предоставление объяснений организационных решений может существенно повысить доверие [41, 38]. В последнее время многие подходы, как далее описано в Разделе IV-B, уделяют приоритетное внимание интерпретируемости и объяснимости моделей для повышения прозрачности в принятии решений на основе ИИ; этот принцип может быть распространен на решения о найме, принимаемые с помощью ИИ.

После завершения решений о найме организации оценивают процесс рекрутинга по трем ключевым критериям: обоснованность, полезность и справедливость. Обоснованность гарантирует, что оценки и собеседования точно отражают профессиональные KSAOs и предсказывают результаты выполнения работы [38]. Например, организации часто устанавливают критериально-ориентированный пороговый балл в качестве отсечки для отбора сотрудников, исходя из желаемого уровня результативности для нового сотрудника [38]. Соблюдение государственных руководящих принципов, описанных в Разделе II-B, также необходимо для обоснованности [38]. Далее полезность оценивает соотношение затрат и выгод при укомплектовании штата, на которое могут влиять более ранние этапы рекрутинга, такие как работа с кандидатами и маркетинг вакансий. Наконец, критерии справедливости оцениваются с использованием руководящих принципов отбора сотрудников, описанных в Разделе II-A. Однако по мере того, как ИИ становится более интегрированным в каждый этап процесса, необходимо включать методы выявления и смягчения смещений там, где руководящие принципы неадекватно учитывают алгоритмическую предвзятость. Например, единообразные руководящие принципы по отбору сотрудников могут существенно зависеть от размера выборки различных групп. Работа Peng et al. [124] показывает, как решения ИИ—человек, или гибридные, при которых ИИ помогает людям, все равно могут нести предвзятость. Кроме того, законодательные определения справедливости и руководящие принципы отбора сотрудников могут быть недостаточно подробными или актуальными, чтобы учесть недавние технологические достижения.

IV Обнаружение и смягчение смещений

Чтобы обеспечить справедливость в найме, основанном на ИИ, крайне важно внедрять методы выявления и измерения смещений и смягчения их на каждом этапе процесса подбора персонала. В этом разделе мы рассматриваем существующие работы по справедливости в ИИ, уделяя внимание методам измерения смещений, стратегиям смягчения смещений, а также текущим ограничениям и проблемам в этой области.

IV-A Метрики справедливости

В исследованиях справедливости в ИИ было предложено множество определений справедливости для эффективной оценки систем ИИ. В этом подразделе мы рассматриваем ключевые метрики справедливости, особенно релевантные найму, как определено в предшествующих исследованиях [66, 71, 74].

1. ⟦ Справедливость через неосведомленность: эта метрика служит базовой, устанавливая, что алгоритм является справедливым, если он не использует явно защищенные признаки $A$ при своем обучении [125]. Классификатор $C$, определенный как $C:X\setminus A\to Y$, работает на наборе признаков $X$, исключающем любые защищенные признаки $A$. Здесь $Y$ представляет собой потенциальные классы исхода. Хотя данный подход направлен на предотвращение прямой дискриминации за счет того, что классификатор является «неосведомленным» о защищенных характеристиках, у него есть заметные недостатки. В контексте найма, где $A$ может существенно различаться между разными профессиями, необходимы экспертные знания, чтобы точно выявить и исключить эти признаки. Кроме того, даже когда $A$ опущен из $X$, другие признаки в $X$ могут выступать в роли суррогатов для $A$, что приводит к классификатору, который формально является справедливым, но при этом все еще содержит дискриминационную информацию. Например, хотя пол может не включаться явно, участие в женском учебном курсе по программированию, указанном в истории работы, все равно может указывать на пол кандидата, тем самым выступая в роли суррогата и влияя на решение о найме. Кроме того, образовательный бэкграунд может выступать в роли суррогата для социально-экономического положения или этнического происхождения, особенно если некоторые учебные заведения в основном обслуживают определенные демографические группы.
2. ⟦Демографический паритет: Также известный как статистический паритет, этот показатель устанавливает, что показатели принятия для различных демографических групп должны быть примерно равными. Это требование согласуется с практиками справедливого найма, которые предписаны законами, такими как правило четырех пятых (см. Раздел II-B). Математически, пусть $C$ — это классификатор, предсказывающий бинарный исход $Y$. Для любых двух групп $a$ и $b$ показатели принятия должны находиться в пределах заданного процента $p$ друг от друга, где $\epsilon=\frac{p}{100}$ и $\epsilon\in[0,1]$ [71]:

   $$\left|P_{a}\{C=1\}-P_{b}\{C=1\}\right|\leq\epsilon.$$ (1)

3. ⟦ Паритет точности: также известен как равенство возможностей. Этот показатель гарантирует, что истинная положительная доля (доля фактических положительных случаев, корректно выявленных моделью) одинакова для различных демографических групп [70]. Этот вид справедливости стремится выровнять вероятность найма квалифицированного кандидата из любой группы (то есть $C=1$ при $Y=1$). Этот концепт математически представлен уравнением [1]:

   $$P_{a}\{C=1\mid Y=1\}=P_{b}\{C=1\mid Y=1\}.$$ (2)

   Этот показатель не решает напрямую компромисс между ложными срабатываниями и пропуском истинных случаев, а сосредоточен на том, чтобы все квалифицированные кандидаты имели равный шанс быть выбранными независимо от принадлежности к группе.
4. ⟦ Паритет предсказательной способности: Также известен как положительный паритет предсказательной способности и отрицательный паритет предсказательной способности. Этот показатель гарантирует, что квалификация кандидата согласуется с предсказаниями модели в разных группах [1]. Паритет предсказательной способности выполняется, если и положительные, и отрицательные исходы одинаково хорошо предсказываются во всех группах. Положительный паритет предсказательной способности требует, чтобы вероятность положительной классификации при положительной метке была одинаковой для всех групп:

   $$P_{a}\{C=1\mid Y=1\}=P_{b}\{C=1\mid Y=1\}.$$ (3)

   Отрицательный паритет предсказательной способности требует, чтобы вероятность отрицательной классификации при отрицательной метке была одинаковой для всех групп:

   $$P_{a}\{C=0\mid Y=0\}=P_{b}\{C=0\mid Y=0\}.$$ (4)

   Эти условия гарантируют, что предсказания модели не дают непропорциональных преимуществ или наказаний какой-либо группе, независимо от фактического исхода.
5. ⟦ Контрфактическая справедливость: Основанная на идее, что решения, принимаемые алгоритмом, не должны изменяться, если в гипотетической ситуации изменяется защищённый признак $A$, контрфактическая справедливость повышает прозрачность, требуя устойчивости предсказаний к изменениям $A$. Определённая Kusner et al. [125], классификатор $C$ достигает контрфактической справедливости, если для любого индивида с признаками $X$, включая защищённый признак $A$, исход остаётся тем же как в реальном, так и в контрфактическом сценарии, где $A$ изменяется. Математическое определение следующее:

   $$P\{C_{A\leftarrow a}(X)=y\mid X,A=a\}\\ =P\{C_{A\leftarrow a^{\prime}}(X)=y\mid X,A=a\},$$ (5)

   где $a$ представляет фактическое значение, а $a^{\prime}$ представляет контрфактическое значение $A$, и $y$ — потенциальный исход. Это гарантирует, что предсказание не зависит от $A$, за исключением его легитимных влияний через другие непр защищённые признаки.
6. Индивидуальная справедливость (в отличие от групповой справедливости): в отличие от метрик групповой справедливости, таких как demographic parity, accuracy parity и predictive rate parity, которые обеспечивают справедливость за счёт выравнивания статистических показателей между группами, индивидуальная справедливость фокусируется на справедливости на уровне отдельных людей. Эта метрика утверждает, что похожие люди должны получать похожие результаты. Она решает ключевое ограничение метрик групповой справедливости, которые обеспечивают справедливость между группами, но при этом могут допускать несправедливость внутри групп [104]. В частности, индивидуальная справедливость гарантирует, что любые два индивида $i$ и $j$, которые являются похожими с точки зрения рассматриваемой задачи, должны обрабатываться одинаково [126].
7. ⟦ Справедливость с учетом предпочтений отдельных лиц: Эта метрика справедливости расширяет индивидуальную справедливость, принимая во внимание разнообразные предпочтения людей, такие как место работы, отрасль, диапазон зарплаты и часы работы. Справедливость с учетом предпочтений отдельных лиц (PIIF) объединяет концепцию зависть-свободности, которая гарантирует, что ни один человек не будет предпочитать результат другого своему собственному при сопоставимых условиях [126]. Таким образом, PIIF требует, чтобы результаты не только соответствовали критериям индивидуальной справедливости, но и согласовывались с индивидуальными предпочтениями для снижения зависти, обеспечивая, что каждое решение, принимаемое моделью, является справедливым и лично удовлетворяющим участвующих лиц.
8. ⟦ Многосторонняя справедливость: современные платформы подбора персонала требуют многостороннего подхода к обеспечению справедливости, учитывающего поставщика (то есть работодателей, размещающих объявления о вакансиях), потребителя (то есть соискателей) и саму платформу (то есть систему рекомендаций или отбора вакансий) [127]. Если отдавать приоритет интересам только одной стороны, например сосредоточиться исключительно на работодателе (ориентированный на поставщика подход) или на соискателе (ориентированный на потребителя подход), это может привести к несправедливым результатам для другой стороны. Например, ориентированный на потребителя подход, или C-fairness, может требовать, чтобы объявления о вакансиях отображали сопоставимые диапазоны зарплат для всех пользователей независимо от принадлежности к защищённой группе. Напротив, ориентированный на поставщика подход, или P-fairness, может требовать, чтобы объявления из компаний, принадлежащих меньшинствам, показывались квалифицированным соискателям с сопоставимой частотой по сравнению с другими компаниями [128, 129]. Эта идея применялась на различных онлайн-платформах, таких как e-commerce и ride-hailing, где справедливость рассматривается как задача многокритериальной оптимизации, балансирующая точность и справедливость [127, 130, 128, 129].
9. ⟦ Процедурная справедливость: процедурная справедливость, одна из трех разновидностей организационной справедливости, обсуждаемых в разделе II-A — наряду с дистрибутивной и интеракциональной справедливостью — сосредоточена на справедливости процессов в организации, таких как найм. Grgic-Hlaca et al. [44] предлагают использовать процедурную справедливость для оценки процессов найма. В частности, справедливость классификатора $C$ и его набора признаков $X$ оценивается на основе доли пользователей, которые воспринимают использование определенных признаков в процессе принятия решений как справедливое. По сути, этот подход позволяет пользователям активно оценивать справедливость решений. Однако представления о справедливости могут меняться со временем и зависят от осведомленности пользователей о потенциальных несоответствиях, вызванных конкретными признаками в модели [44].
10. ⟦Справедливость в регрессии: Хотя многие устоявшиеся метрики справедливости ориентированы на задачи классификации, где решения обычно являются бинарными (например, принять или отклонить), модели регрессии также широко применяются в процессах найма, например при оценивании видеоинтервью [131]. Однако к вопросам справедливости этих моделей уделялось меньше внимания. Согласно Barocas et al. [70], справедливость в регрессии определяется тремя принципами: Независимость — обеспечение того, что чувствительный признак $A$ и выход регрессионной модели $R$ независимы, что обозначается как $R\perp A$, то есть чувствительный признак не влияет на выход модели. Разделение — допускается некоторая корреляция между $A$ и целевой переменной $Y$, если это обосновано, что обозначается как $R\perp A\mid Y$. Достаточность — обеспечение того, что выход регрессии адекватно отражает влияние $A$ на $Y$, с целью достижения паритета среди индивидов на основе их релевантных характеристик, что обозначается как $Y\perp A\mid R$ [66]. Кроме того, справедливость можно количественно оценивать с использованием статистических метрик, таких как дивергенция Кульбака–Лейблера, для сравнения предсказаний между разными группами [30].

Каждая из указанных метрик рассматривает разные аспекты справедливости и применима в различных сценариях в рамках процесса найма. Их эффективное внедрение может помочь смягчить предвзятость и обеспечить более справедливый процесс приема на работу.

IV-B Смягчение смещения

После выявления смещения внутри системы ИИ следующим шагом становится внедрение стратегий, позволяющих эффективно смягчать эти смещения. В этом подразделе описаны три основные категории методов смягчения смещения, выделенные в существующей литературе [132]:

1. ⟦ Предварительная обработка: Подход включает изменение набора данных до начала процесса обучения модели. Методы этой категории, такие как переназначение весов и оптимизированная предварительная обработка, корректируют признаки и метки в наборе данных, чтобы привести их в соответствие с критериями справедливости до того, как модель будет обучена и использована для прогнозирования [132]. Эти методы направлены на удаление или изменение факторов, вызывающих смещение в данных, таких как не связанные с ними защищенные атрибуты. Наборы инструментов вроде AI Fairness 360 предлагают набор готовых функций для этих задач предварительной обработки [132]. Однако, хотя они эффективны для корректировок на уровне данных, предварительная обработка не устраняет смещения, присущие базовому моделирующему процессу, которые все еще могут потребовать внимания, если смещения сохраняются после корректировок набора данных.
2. ⟦ В процессе обучения/оптимизация: В отличие от предварительной обработки, методы на этапе обучения предполагают оптимизацию модели во время обучения для достижения конкретных определений справедливости за счет ограничений или модификаций в конструкции модели. Например, это может включать реализацию равенства точности за счет обеспечения того, чтобы доля нанимаемых квалифицированных кандидатов из разных демографических групп была сопоставимой. Методы на этапе обучения подразделяются на две категории: явные методы, которые непосредственно изменяют цели обучения, и неявные методы, которые изменяют представление данных внутри модели [133]. Подробное обсуждение этих методов можно найти в обзоре Wan et al. [133]. Основное преимущество методов на этапе обучения заключается в их эффективности при оптимизации метрик справедливости; однако иногда это может сопровождаться снижением точности модели [134]. Примечательно, что методы на этапе обучения сталкиваются с такими сложностями, как необходимость изменения архитектуры модели, что не всегда может быть осуществимо, особенно в сценариях аутсорсингового найма. Кроме того, если целевые метки в наборе данных по своей природе смещены из‑за системных проблем, эти смещения могут продолжать передаваться дальше, несмотря на применение ограничений справедливости при обучении модели.
3. ⟦ Постобработка/прозрачность: Методы постобработки сосредоточены на настройке выходных данных уже обученной модели для соблюдения критериев справедливости. Например, это может включать изменение порогов классификации, используемых при принятии решений о найме. Основное преимущество данного подхода заключается в том, что он не требует изменений базовой архитектуры модели. Кроме того, эти методы часто включают элементы алгоритмической прозрачности, такие как предоставление объяснений решений посредством контрфактического рассуждения или анализа важности признаков. Раскрытие процесса принятия решений позволяет всесторонне оценить его справедливость и при необходимости внести корректировки, если выявляются смещения. Более того, предоставление четких объяснений помогает кандидатам на работу понимать возможные несоответствия или недостатки в их заявках, что может быть полезно для их дальнейших усилий по поиску работы. Исследования показали, что прозрачная обратная связь может существенно улучшить восприятие кандидатами справедливости в рамках процесса найма [135].

Многочисленные наборы инструментов ML были разработаны, чтобы облегчить интеграцию алгоритмов справедливости на различных этапах конвейера ML. Эти наборы инструментов, всесторонне рассмотренные в обзоре Lee et al. [136], поддерживают реализацию методов предобработки, встроенной обработки и постобработки. Их доступность позволяет организациям проще встраивать справедливость в свои основанные на ИИ процессы найма, тем самым помогая гарантировать, что их рекрутинговые практики соответствуют установленным стандартам справедливости.

IV-C Наблюдения, ограничения и будущие вызовы

Здесь мы описываем четыре ключевых ограничения в найме, основанном на искусственном интеллекте, которые подчеркивают необходимость продолжения исследований для повышения справедливости ИИ в процессах подбора персонала:

1. Выбор метрик и практик аудита: по мере того как организации внедряют практики обеспечения справедливости, возникает ключевая задача — выбор подходящих метрик справедливости, которые могут существенно различаться в зависимости от различных применений. Например, при найме важно учитывать как квалификацию кандидатов, так и представительство защищенных групп. Кроме того, сложность выполнения нескольких критериев справедливости одновременно [134] указывает на то, что опора на одну-единственную метрику может игнорировать другие значимые различия. Не менее тревожным является отсутствие стандартизированного бенчмаркинга и всеобъемлющих процедур аудита в действующем законодательстве, которые необходимы для последовательного обеспечения справедливости при использовании инструментов ИИ при найме [109].
2. ⟦ Требования, специфичные для конкретной работы, и долгосрочная справедливость: Критерии измерения справедливости должны адаптироваться к уникальным требованиям различных рабочих мест. Например, хотя религия в целом является защищаемым признаком, она может быть релевантной для руководящих ролей внутри религиозных организаций. Это подчеркивает сложность использования единой модели для универсального предсказания защищаемых признаков во всех типах работ, особенно там, где конкретные признаки имеют решающее значение. Кроме того, потребность в справедливости распространяется на объявления о вакансиях и их рекомендации, которые должны соответствовать детальным требованиям, указанным в описаниях вакансий. По мере развития рынка труда модели и механизмы аудита также должны быть динамическими, адаптируясь к долгосрочным изменениям на рынке. Эта динамическая составляющая справедливости, ориентированная на влияние долгосрочной справедливости и адаптивность, недостаточно изучалась в литературе по справедливости, которая традиционно сосредоточивалась на статических оценках справедливости.
3. ⟦ Аудит крупных базовых моделей: крупные базовые модели, такие как ChatGPT, Whisper и DALL-E, все чаще применяются в различных задачах найма благодаря их устойчивой работе в разнообразных сценариях. Эти модели используют обширные наборы данных обучения, включающие текст, изображения и аудио. Однако их широкое использование вызывает серьезные этические опасения из-за текущего отсутствия всеобъемлющих нормативных требований, которые обеспечивают справедливость на протяжении фаз обучения и развертывания модели. Ключевые проблемы включают предотвращение утечки конфиденциальных данных, когда генеративные модели создают контент, а также содействие разнообразию наборов данных обучения, чтобы минимизировать закрепление стереотипов и вредных предубеждений, тем самым обеспечивая равное отношение ко всем людям [137].
4. ⟦ Прозрачность решений о найме: многие кандидаты никогда не получают обратную связь, если их отсекают при помощи системы на базе ИИ, и те, кто все же получают ответы, часто сталкиваются с сообщениями без подробного обоснования. Отсутствие подробной обратной связи по невыполненным требованиям или по признакам, влияющим на решение ИИ, подрывает интеракционную справедливость и снижает доверие. Повышение интерпретируемости и объяснимости «черных ящиков» моделей ИИ имеет решающее значение для формирования прозрачности и справедливости при найме, основанном на ИИ. Несмотря на появляющееся законодательство, направленное на улучшение прозрачности решений, принимаемых ИИ, подобные инициативы по-прежнему ограничены и часто не имеют надежных механизмов обеспечения соблюдения.

Эти обозначенные проблемы подчеркивают сложный, постоянно развивающийся ландшафт найма, опирающегося на ИИ, подчеркивая критическую необходимость дальнейших инноваций и строгой оценки для продвижения справедливости и прозрачности в рекрутинговых практиках.

V Заключение

В данной статье мы систематически рассмотрели существующую литературу о справедливости в ИИ-системах подбора персонала, разъяснив сложности и проблемы на стыке исследований и разработки ИИ, психологии I-O и законодательных рамок. Мы начали с определения ключевых понятий, таких как справедливость, доверие и правосудие, опираясь на соответствующую литературу, чтобы сформировать базовое понимание для анализа смещений. Затем мы подробно описали конвейер подбора персонала, показав применение ИИ на каждом этапе для выявления и смягчения смещений, и подчеркнули текущие методологии и их ограничения, изложенные в литературе о справедливости, специально адаптированные под ИИ-обусловленный подбор персонала.

Мы выявили существенные области, требующие дальнейших исследований, включая разработку моделей, учитывающих требования, специфичные для конкретной работы, создание справедливых объявлений о найме для привлечения более широкой аудитории и повышение прозрачности при принятии решений о приеме на работу. Кроме того, определение источников предвзятости по-прежнему остается ключевой задачей для развития справедливых практик применения ИИ в найме.

Распространенность предвзятости в моделях подбора персонала с применением ИИ создает существенные риски для организаций, соискателей и более широкого рынка труда. Несмотря на повышенную эффективность, обеспечиваемую ИИ при отборе огромного числа заявок, склонность этих систем воспроизводить существующие человеческие предвзятости является серьезной проблемой. Для решения этих вопросов необходимы надежные усовершенствования в практике найма с применением ИИ, включая тщательные проверки справедливости, прозрачные процессы принятия решений ИИ и меры, гарантирующие, что предъявляемые к конкретной должности требования не вносят дополнительных предвзятостей. Кроме того, поскольку продолжается разработка больших базовых моделей, таких как ChatGPT, Whisper и DALL-E, защита конфиденциальности данных соискателей становится все более настоятельной в ходе этапов обучения и доработки модели.

Несмотря на эти трудности, достижения в области больших базовых моделей открывают беспрецедентные возможности для преобразования процессов найма по всему миру. Этот потенциал обусловливает необходимость скоординированных усилий организаций, исследователей и политиков, чтобы обеспечить, что развитие ландшафта найма будет одновременно инновационным и справедливым, потенциально приводя к более динамичным рабочим местам и более вовлеченной рабочей силе.

Благодарность

Этот материал подготовлен на основе работ, поддержанных Национальным научным фондом по гранту № 1936857.