Управление человеческими ресурсами и ИИ: контекстная база данных для прозрачности

Аннотация.

Инструменты ИИ все шире внедряются в управление человеческими ресурсами (HRM) и рекрутинг, помогая опосредовать доступ к рынку труда. По мере распространения этих систем на первый план выходит потребность в прозрачности, специфичной для профессий, возникающая из-за черного ящика систем в HRM. Предыдущие работы часто описывают прозрачность технически или абстрактно, но мы утверждаем, что прозрачность ИИ является социальным проектом, сформированным материалами, смыслами и компетенциями практики. В данной статье вводится Индекс ИИ для подбора и рекрутинга персонала (Talent Acquisition and Recruiting AI, TARAI), встраивающий ИИ-системы в социальную практику рекрутинга путем анализа продуктовой функциональности, заявлений, допущений и ясности ИИ. Созданная в рамках итеративного процесса с использованием смешанных методов, база данных демонстрирует, как возникает прозрачность: не как фиксированное свойство, а как динамический результат, сформированный профессиональными практиками, взаимодействиями и компетенциями. Сосредоточившись на социальной практике, наша работа предлагает обоснованный и практически применимый подход к пониманию и формулированию прозрачности ИИ в сфере управления персоналом, а также задает план построения совместной базы данных для контекстной прозрачности в профессиональной практике.

1. Введение

Управление человеческими ресурсами (HRM), организационная практика подбора, поддержки и управления сотрудниками (Walker, 2024), переживает бум в области ИИ. Технологии, поддерживающие цели HRM по обеспечению того, что организация достигает своих операционных и бизнес-целей (HR Tech), за счет укомплектования, поддержки и обучения рабочей силы, занимают, по оценкам, глобальную долю рынка в размере 16,43 млрд долларов США в 2023 году (Research, 2025), а продукты Human Resource Technology с поддержкой ИИ — 5,9 млрд долларов США от этой суммы в 2023 году (Market.us, 2024). Одновременно «черный ящик» ИИ — то есть неспособность реверс-инжиниринга результатов работы системы ИИ (Von Eschenbach, 2021; Pasquale, 2015) — досаждает HRM, приводя к смещениям и неэффективности (Ochmann et al., 2021; Lytton, 2024; Bogen and Rieke, 2018; Armstrong et al., 2023). В результате растет интерес и спрос на прозрачность ИИ — ясность и открытость в отношении того, как модель ИИ внедряется в процесс HRM и каким образом она формирует свои результаты, чтобы их могли понимать и оценивать люди (Jonker et al., 2025; Turri et al., 2024; Sloane et al., 2023).

Существующие исследования взаимодействия человека с компьютером (HCI) в области управления человеческими ресурсами (HRM) сосредоточились на организационном повороте в 1990-х (Grudin, 2012) и, в более недавнее время, на вопросах взаимодействия человека с ИИ, где исследователи стремились выяснить, почему специалисты по HR сопротивляются использованию ИИ для оценки эффективности работы на рабочем месте (Park et al., 2021, 2022). Однако до сих пор исследования HCI не затрагивали вопрос о потребностях в прозрачности ИИ, специфичных для конкретной профессии. Настоящая статья восполняет этот пробел и рассматривает ИИ-продукты, встроенные в HR Tech — набор инструментов, таких как платформы, программные комплексы и средства автоматизации, используемые организациями для упорядочивания и оптимизации множества процессов HRM (Rippling, 2024; Bogen and Rieke, 2018).

Одной из областей повышенного исследовательского и нормативного внимания к вмешательствам ИИ являются продукты HR Tech, используемые в конкретной области внутри HRM, которая считается высокорисковой, поскольку она опосредует доступ к рынку труда: подбор персонала и рекрутинг кандидатов на вакансии (в совокупности «recruiting») (Sloane, 2023; Sloane and Wüllhorst, 2025). Профессия рекрутинга связана с поиском, а затем проверкой потенциальных кандидатов на соответствие требованиям для найма на конкретную должность в организации. Опасения по поводу «черного ящика» ИИ, применяемого при рекрутинге, привели к усилению общественного внимания (Oliver, 2023; Weed, 2021; Glasser, 2024; Schellmann, 2024) и нормативного контроля. Например, системы ИИ, встроенные в рекрутинг, были признаны «высокорисковыми» в отношении несоразмерного воздействия Комиссией США по равным возможностям в сфере занятости (EEOC) (Garon, 2024). Нью-Йорк ввел Local Law 114, требующий раскрытия использования автоматизированных систем принятия решений [ADS] в трудоустройстве (NYC, 2021), а AI Act Европейского союза (EUA, 2024) классифицирует ИИ, используемый при найме и в сфере занятости, как «высокий риск”.

Регуляторное внимание к ИИ в найме часто бывает слепо к социальным и профессиональным логикам HRM и найма в частности, особенно к распределенному характеру принятия решений человеком и машиной в процессе найма, а также к процессу формирования смысла между этими участниками и точками принятия решений. Найм (и прием на работу) редко сводится к одному решению (Bogen and Rieke, 2018). Скорее, это последовательность решений, возникающих во взаимодействии человеческой и машинной оценки и принятия решений в рамках HRM (Bogen and Rieke, 2018). Регуляторные вмешательства, предписанные для устранения проблем с ИИ — от «черного ящика» до смещений, — поэтому не опираются на профессионально-специфический процесс смыслообразования. Мы утверждаем, что это особенно важно для прозрачности ИИ, потому что потребности в прозрачности ИИ являются профессионально-специфичными (Sloane et al., 2023).

Подход к проблеме с позиций социальной теории может помочь заложить основу для ее решения. Мы предполагаем, что социальные практики (Shove et al., 2012; Shove, 2007) набора персонала (впоследствии также: профессиональные практики набора персонала) можно разложить на три элемента, которые связываются между собой и стабилизируют практику в разных институтах: продукты HR Tech представляют собой материальные элементы, физические и цифровые инструменты набора персонала, посредством которых реализуются ключевые компетенции практики набора и создается и согласуется смысл (Harvey et al., 2024). Сосредоточиваясь на социальных практиках, мы можем выйти за рамки отдельного объекта, человека или системы и шире исследовать поведение и практики, связанные с взаимодействием решений или информации, обусловленных человеком и машиной, в профессиональном контексте во времени (Shove et al., 2012; Shove, 2007; Harvey et al., 2024). Мы утверждаем, что смыслообразование и использование ИИ при наборе персонала совместно конструируются в ходе взаимодействий с техническими системами, группами коллег и развитием компетенций, связанных с использованием ИИ в целом в сфере набора персонала.

Мы рассматриваем прозрачность ИИ, которая содержательно связывается с решениями, которые необходимо принимать в профессиональных контекстах, распространяется по трём элементам материала, компетенций и смысла и, следовательно, должна опираться на углублённые исследования профессиональной практики — в данном случае практики найма. Однако значительная часть исследований и практики в области прозрачности ИИ, включая исследования explainable AI (XAI), задаёт прозрачность ИИ исключительно как технический проект (Gunning et al., 2021; Miller et al., 2017). Здесь природа выходов системы ИИ как «чёрного ящика» решается главным образом путём создания вторичной модели ИИ, чтобы объяснять и обеспечивать модель-специфичную прозрачность относительно поведения ИИ (Rudin, 2019; Martens et al., 2025), и потенциально может вводить пользователей в заблуждение (Poursabzi-Sangdeh et al., 2021; Wilson et al., 2021).

Прозрачность ИИ важна для профессиональной и социальной практики, поскольку понимание того, как системы ИИ применяются в повседневном профессиональном использовании, является ключевой частью смыслообразования в профессиональном контексте. Такой подход — называемый контекстной прозрачностью ИИ — требует эмпирического взаимодействия с сообществами практиков, и на основе этого взаимодействия, опираясь на знания данного сообщества, создавать прозрачность ИИ (Sloane et al., 2023). В данной статье мы работаем с практиками подбора, чтобы понять, какой ИИ применяется при найме и подборе персонала. На основе данных этих взаимодействий мы рассматриваем контекстную прозрачность ИИ как функциональность продукта, заявления, предположения и ясность ИИ. Мы создаем ориентированную на прозрачность ИИ базу данных продуктов HR Tech, которая является целостной и основанной на практике, встроенной в информацию о продуктах HR Tech. Наша работа является частью растущего массива исследований в HCI, который продвигает построение баз данных как средство построения контекстно-чувствительной прозрачности ИИ (Feffer et al., 2023; Walker et al., 2024; McGregor, 2021). При построении Индекса ИИ для подбора персонала и рекрутинга (TARAI)111https://www.tarai.org мы рассматриваем следующие исследовательские вопросы:

• ⟦ 1. Что такое пространство HR Tech для подбора персонала?
• ⟦ 2. Как ИИ внедряется в этих продуктах?
• 3. Что передаётся об ИИ в этих продуктах??

В разделах ниже мы рассматриваем связанные работы, представляем нашу базу данных, а затем подробно описываем методы, с помощью которых мы построили эту базу данных. Далее мы документируем наши наблюдения и размышления о ее создании, делая акцент на трудностях построения базы данных для профессионально ориентированной прозрачности ИИ. Сосредоточив внимание на социальной практике, наша работа предлагает более обоснованный и практико-ориентированный подход к пониманию и формулированию прозрачности ИИ в HRM.

2. Сопутствующие работы

2.1. Искусственный интеллект в управлении персоналом в исследованиях по взаимодействию человека с компьютером (HCI)

HR Tech — это набор цифровых инструментов, таких как платформы, программные комплексы и инструменты автоматизации, которые используются организациями, чтобы оптимизировать и ускорять процессы HRM и гарантировать, что компании работают с максимальной эффективностью (Rippling, 2024). HR Tech обычно охватывает все направления HRM — от найма и приема на работу до управления эффективностью и поддержания культуры на рабочем месте, а также до процесса off-boarding уходящих сотрудников. Важно, что инструменты HR Tech обычно имеют общие возможности, такие как структурированные поля данных для типовых сведений (например, имя, образование, опыт), которые переводятся между организациями (Ajunwa and Greene, 2019). HR Tech поддерживает экосистему HRM (Snell et al., 2023), что позволяет разрабатывать технологии с узкими назначениями, применимые только в рамках определенных доменов (Ajunwa and Greene, 2019). Благодаря своей специализированной природе продукты HR Tech обычно не имеют применений вне контекста управления персоналом.

Небольшая часть этих специализированных технологий применяется при подборе кандидатов на должности. Профессия рекрутера связана с поиском, а затем с проверкой потенциальных кандидатов на прием на работу в организации. HR Tech, используемые в рекрутинге, — это технологии, которые применяются для отслеживания кандидатов на должности в процессе их подбора (например, Applicant Tracking Systems [ATS]), технологий поиска и скрининга, а также инструментов, которые поддерживают проведение интервью и проверку биографических данных (Bogen and Rieke, 2018; Ajunwa and Greene, 2019; Sloane et al., 2022a).

HCI изучала тему HR Tech, сосредоточиваясь на таких вопросах, как проектирование инструментов, помогающих снизить вероятность дискриминации (Leung et al., 2020), изучение того, как генеративные модели ИИ, используемые при найме, могут отражать и закреплять стереотипы о гендерных и расовых группах (Armstrong et al., 2024), и как гендер и раса могут влиять на то, как гиг-работников ранжируют на фриланс-платформах, таких как Fiverr (Hannák et al., 2017). Другое релевантное исследование изучало опыт рекрутеров (Lashkari and Cheng, 2023), группы соискателей в процессе найма при взаимодействии с ИИ, например студентов по направлению Computer Science, подающих заявки на свои первые рабочие места(Armstrong et al., 2023), или опыт женщин, связанный с ранжированием и рекомендациями кандидатов с помощью ИИ (Chen et al., 2018). Другие исследования были в большей степени сосредоточены на общем опыте найма, например изучали, как социальный класс влияет на опыт во время поиска работы (Chua et al., 2021). Существует также значительный массив работ в областях, связанных с HCI, который исследует, как лучше всего проводить аудит алгоритмов, задействованных в найме (Wilson et al., 2021; Sloane et al., 2022a).⟧.

Hiring Stage	Function in Hiring Process	Example HR Tech Product
Advertising	Advertises available job, text usually written by a recruiter.	$\bullet$ ZipRecruiter $\bullet$ LinkedIn Jobs
Sourcing	Finds candidates to apply to jobs, often focuses on divers- ifying the hiring pool.	$\bullet$ SeekOut $\bullet$ LinkedIn Recruiter $\bullet$ Internal and Past Applicant Pool
Screening & Skill Assessment	Assesses candidates for skills, salary requirements, location, and experience.	$\bullet$ CodeSignal $\bullet$ Internal ATS Chatbots $\bullet$ HackerRank
Interviewing	Interview Candidates.	$\bullet$ Hirevue (AI Interviews) $\bullet$ Calendly (Scheduling)
Selecting & Background Checks	Transitions candidate to new hire status, ensures accuracy of candidate credentials.	$\bullet$ HireRight $\bullet$ Vetty

⟦Table 1. Этапы найма и их функции, с примерами технологий.††:

Найм, являющийся частью «воронки подбора» (Bogen and Rieke, 2018), представляет собой совокупность взаимосвязанных процессов, которые характеризуют важные этапы на пути человека от просмотра объявления о вакансии до онбординга в качестве нового сотрудника. Воронка подбора обычно направляется рекрутерами. Должности выявляются и описываются рекрутерами, а затем рекламируются на различных внутренних и внешних сайтах вакансий и через другие каналы, которые они считают подходящими и эффективными. Рекрутеры иногда напрямую подбирают потенциальных кандидатов на вакансию, используя базы ранее подавших заявки и сайты социальных сетей. Как только потенциальные кандидаты подают заявки, их отбирают; это может включать разговор с рекрутером, тест для оценки технических навыков или, возможно, взаимодействие с чатботом. После отбора выбранные кандидаты переходят к собеседованиям, которые могут включать самозаписанное взаимодействие с серией подсказок, собеседование с AI-аватаром или взаимодействие с реальным человеком. Наконец, когда кандидата выбирают для найма, он также может пройти проверку биографических данных. Таблица 1 показывает воронку подбора и некоторые продукты HR Tech на каждом этапе. Многие рекрутеры, испытывающие давление по интеграции AI в свою профессиональную практику (Sloane, 2023), не знают, как работает AI на различных этапах воронки подбора (Rocha, 2025; Schellmann, 2024). Существует необходимость в более сильной прозрачности AI в HR Tech, но прозрачность должна быть встроена в профессиональную практику рекрутинга.

2.2. Контекстная прозрачность ИИ

Прозрачность ИИ в целом охватывает два взаимосвязанных понятия: интерпретируемость ИИ и объяснимость ИИ. Интерпретируемость ИИ описывает степень, в которой человек может понять решение, которое принял ИИ (Doshi-Velez and Kim, 2017), а объяснимость ИИ больше сосредоточена на уровне понимания людьми внутренних функций модели ИИ при принятии ею решений и в процессе обучения (Linardatos et al., 2020). На первом шаге мы определяем прозрачность ИИ как ясность и открытость в отношении того, как модель ИИ развертывается в рамках процесса HRM, и как она формирует свои результаты, чтобы это можно было понять и оценить людьми (Corbett and Denton, 2023; Turri et al., 2024; Sloane et al., 2023). На втором шаге мы оговариваем, что эта ясность и открытость должны вытекать из профессионально-ориентированных решений, принимаемых в определенных контекстах, которые в значительной степени похожи между организациями. Это отличается от общих определений прозрачности ИИ, где вопросы объяснимости и интерпретируемости системы ИИ отфильтровываются через техническую призму, например, с помощью вторичного алгоритма, который объясняет решения первой системы, и при предположении, что существует универсальное представление о прозрачности (Gunning et al., 2021; Miller et al., 2017; Rudin, 2019; Martens et al., 2025; Poursabzi-Sangdeh et al., 2021; Sloane et al., 2023). Эти подходы ограничены, потому что истинные недостатки систем ИИ могут быть выявлены и эффективно устранены только посредством контекстно-осведомленных усилий по обеспечению прозрачности.

Мы основываем это исследование на концепции контекстной прозрачности ИИ, которая по-прежнему делает акцент на интерпретируемости и объяснимости, но утверждает, что прозрачность ИИ должна быть привязана к конкретным социальным практикам и их контекстам, например к конкретным процессам профессионального принятия решений, в которые встраиваются ИИ-системы(Sloane et al., 2023). То, что может обозначать контекстную прозрачность для специалиста по персоналу при принятии решения о найме с использованием ИИ, например, может существенно отличаться от контекстной прозрачности, необходимой врачу при рассмотрении диагностической оценки пациента, выполненной ИИ. Контекстная прозрачность ИИ утверждает, что невозможно достичь представления о универсальной прозрачности, поскольку люди приходят к обсуждению, имея разные знания (Haraway, 2013; Sloane et al., 2023) и практики, укорененные в различных культурах.

Контекстная прозрачность не отвергает, а скорее включает идею алгоритмической прозрачности. Этот технический «как» затрагивает объяснимость алгоритма (то есть как функционирует ИИ и насколько интерпретируемы для обычного человека результаты ИИ). Кроме того, наряду с акцентом на технической, контекстной прозрачности ИИ также рассматривается прозрачность взаимодействия (например, «почему»), а также социальная прозрачность, или социальное «что» технической системы в том виде, в каком она существует в определённом институциональном, правовом или социокультурном контексте (Haresamudram et al., 2023). Эта многокомпонентная рамочная модель признаёт, что прозрачность ИИ неизбежно социально обусловлена и возникает в ходе регулярного взаимодействия между людьми и техническими системами ИИ (Sloane et al., 2023; Bello et al., 2025). Важно, что это имеет методологические последствия для исследований по прозрачности, как мы изложим в следующем разделе.

2.2.1. Базы данных как средство прозрачности ИИ

Растущий объем литературы по HCI изучает другие способы создания прозрачности ИИ через построение баз данных. Например, пользователи этих баз могут узнавать о текущих вредах, связанных с ИИ, с конечной целью предотвращать будущие вреды, развивать подотчетность и поддерживать этичное поведение со стороны технологических компаний (Rodrigues et al., 2023). Одна из таких баз данных, База данных об инцидентах с ИИ, заявляет, что она предназначена функционировать как инструмент прозрачности, чтобы не допускать того, что технологические компании будут повторять прошлые ошибки, создавая публичную, коллективную память об этих инцидентах (McGregor, 2021). Эта база данных показала себя как полезный образовательный инструмент по темам, связанным с этикой ИИ, и темам, связанным с вредом от ИИ (Feffer et al., 2023), и использовалась в рамках нескольких исследовательских контекстов, чтобы либо разрабатывать интервенции (Agarwal and Nene, 2024), либо применять те же техники построения баз данных к различным исследовательским контекстам, таким как использование AI- сгенерированных изображений deep fake для журналистов (Walker et al., 2024).

Другие исследования баз данных более ориентированы на определенные профессиональные практики, например, на исследование (Fehr et al., 2024) инструментов медицинского ИИ Фехр и коллег, а также на отсутствие общедоступных данных об этих инструментах. Авторы указывают на общедоступные базы данных этих инструментов, поддерживаемые и U.S. FDA, и Европейской комиссией, стремясь обеспечить информированность общественности о таких инструментах и прозрачность того, как они функционируют. Эти базы данных, находящиеся под контролем государства, являются полезным инструментом прозрачности, но, как отмечают Фехр и коллеги (Fehr et al., 2024), эти базы данных работают по принципу участия по выбору, то есть создаваемая ими прозрачность ИИ ограничена разработчиками технологий, которые решают участвовать в этих базах данных (Fehr et al., 2024). Это отличается от баз данных, описанных Родригес и коллегами (Rodrigues et al., 2023), включая AI Incident Database (McGregor, 2021), которые поддерживаются за счет представлений от общественности. Создавая эти базы данных (McGregor, 2021; Walker et al., 2024) и затем используя их в качестве исследовательских инструментов (Rodrigues et al., 2023; Agarwal and Nene, 2024; Walker et al., 2024), исследователи могут начать задавать социально-ориентированные и ориентированные на профессиональную практику вопросы о прозрачности ИИ в конкретных контекстах — со стороны третьих лиц, а не со стороны государственных структур или основанных на деятельности компании либо предписанных расследований.

Создание базы данных служит как инструментом совместных исследований, так и углубленным исследовательским инструментом для контекстной прозрачности ИИ, который часто определяет, как он оценивает ИИ в конкретном контексте. Например, усилия по контекстной прозрачности ИИ, ориентированные на базы данных, изучались в политической коммуникации: исследователи документировали инциденты с deepfakes и более простыми «cheapfakes», рассматривая возникающие риски политического влияния генеративного ИИ и обеспечивая прозрачность для журналистов и лиц, формирующих политику (Walker et al., 2024). Кроме того, Dao и его коллеги поддерживают базу данных «scary AI» (Dao et al., 2022), а ACLU поддерживает базу данных аудитов технологий найма, аудированных на соответствие требованиям New York City Local Law 114 (ACLU, 2024). В сфере HR Tech такие организации, как American Staffing Association (ASA), создали документацию222https://americanstaffing.net/asa-staffing-tech-center/essential-elements-staffing-technology/ о существующих экосистемах HR Tech, относящихся к различным аспектам управления персоналом, чтобы помочь рекрутерам и другим практикам находить доступные инструменты в разных областях применения. Насколько нам известно, не существует всеобъемлющей базы данных инструментов HR Tech, которая была бы сосредоточена на создании контекстной прозрачности в отношении ИИ, применяемого в HR Tech, особенно с учетом допущений, заявлений, функциональности и ясности, заложенных в ИИ для HRM.

2.3. Допущения, утверждения, функциональность и ясность в системах искусственного интеллекта

Встроенные во все технологии возможности действий обусловлены проектированием любого конкретного продукта (Dourish, 2001; Davis, 2020). При подборе персонала технологические решения для управления персоналом предоставляют специалистам возможность целенаправленной деятельности, такой как оценка кандидатов на должность, посредством использования этого продукта (Ratneshwar et al., 1999). Поскольку технологии для управления персоналом являются весьма узкой областью, общие пересекающиеся возможности этих инструментов, а именно то, как они структурируют данные о людях (Ajunwa and Greene, 2019), порождают множество функциональностей, которые все еще опираются на относительно схожую структуру данных. Хотя две компании могут использовать полностью разные продукты для управления персоналом, информация, хранящаяся о людях в этих продуктах, будет включать данные об их стаже, прежнем месте работы и результатах трудовой деятельности; вероятно, она будет содержать резюме с подробностями об образовании человека, опыте и карьере. Для этой цели многие компании, занимающиеся технологиями для управления персоналом, делают конкретные заявления о функциональности своих продуктов применительно к HRM, обычно изложенные в их маркетинговых материалах (Sloane et al., 2022a), таких как Рисунок 1, а не сосредотачиваются на том, чем отличается и/или лучше их способ структурирования данных о людях. В этом примере компания HireVue утверждает, что встроенная в функциональность ее продукта возможность заключается в том, чтобы пользователь мог подтверждать ролевые специфические навыки, которыми кандидат на должность может обладать.

⟦Figure 1. Снимок экрана с заявлением продукта в области HR- технологий, сделанным компанией HireVue.††:

Предыдущие исследования продуктов HR Tech показали, что практиков интересуют действия и результаты продуктов — функции (Florkowski, 2018; Sloane, 2023). Кроме того, в отличие от некоторых рынков продуктов (например, медицинских), которые строго регулируются, HR Tech не нужно предоставлять доказательства, подтверждающие те утверждения, которые они делают о функциональности своего продукта. Вместо этого продукты HR Tech часто заявляют в маркетинговых материалах, что они встраивают в свои продукты лучшие практики работы с персоналом, такие как отсутствие предвзятости при найме, или приоритизация человеческого взаимодействия для рекрутеров, а не канцелярская работа (Wiblen and Marler, 2021). По мнению Уиблена и Марлера (Wiblen and Marler, 2021), это ошибочный подход: они утверждают, что после внедрения и использования продуктов HR Tech в соответствии с намерениями разработчика внутри организации именно технология и разработчики этой технологии, а не рекрутер, использующий технологию, формируют те социальные процессы, через которые измеряется эффективность инструмента. Настоящее исследование развивает этот и другие предшествующие работы, которые утверждают, что чтобы понять социальные процессы использования инструмента в конкретном контексте, нельзя рассматривать только эффективность и влияние таких инструментов, как это принято в исследованиях HCI, но также нужно анализировать те утверждения, которые эти продукты делают (Sloane et al., 2022a), и те допущения, на которых основана функциональность продукта (Sloane et al., 2022a).

Понимание взаимодействия между утверждениями и функциональностью продукта также требует рассмотрения различных предположений, лежащих в основе технологии. Предположения — это набор скрытых, фоновых знаний и само собой разумеющихся подходов к любой деятельности или действию, которые не подвергаются критическому осмыслению (Harvey et al., 2024). Например, на рисунке 1 лежащее в основе предположение, заложенное в утверждение HireVue о способности их продукта валидировать навыки, специфичные для конкретной должности, представляет собой предположение о том, что тестирование и оценивание являются важной частью процесса найма и что они являются точным предиктором будущего успеха на работе. Предположения — это способ понять лежащие в основе социальные и технические механизмы, которые делают продукт полезным для практиков (Sloane et al., 2022a). Нормативные идеи, содержащиеся в предположениях, могут вступать в противоречие с профессиональной практикой, что делает необходимым выявление этих идей и определение того, откуда они берутся (Sloane et al., 2022a). В случае рисунка 1 имеется достаточно свидетельств того, что оценки личности и навыков не являются универсально эффективными индикаторами потенциального успеха в рамках той или иной должности (Rosse et al., 1998; Kepes and McDaniel, 2015; Costa Jr and McCrae, 1986; Furnham and Eysenck, 2002). Чтобы добраться до этих предположений, также необходимо понимать, как инструмент или продукт используется привычным образом, демонстрируя необходимость опираться не только на текстовый анализ и этнографические подходы для изучения маркетинговых материалов продукта, но и на беседы с практиками об их профессиональной практике.

⟦Figure 2. Среда рекрутера индекса TARAI.††:

Последовательность и ясность в описании ИИ-систем и в объяснении того, как они функционируют, имеют решающее значение для укрепления доверия к продуктам со встроенным ИИ (Park et al., 2021; Kim et al., 2025). Конечные пользователи таких продуктов часто выражают желание получить больше контекста вокруг результатов работы ИИ, как способ формировать объяснимость (Kim et al., 2023). При анализе функциональности продукта в HR Tech, его заявлений и предположений может сложиться более целостное представление о ясности описания используемого ИИ в продукте HR Tech, дополняя его объяснимость для конечных пользователей. Для потребителей HR Tech эти ИИ часто не объясняются полностью без того, чтобы пользователь приобрёл лицензию для использования продукта HR Tech. Чтобы изучить ясность ИИ так, как её мог бы понимать практик, исследующий продукты HR Tech, сначала нужно понять, как работает продукт, и уметь различать, какие из этих функций являются заявлениями, а не фактическими функциональностями. Взаимодействуя с сайтами продуктового маркетинга, можно сопоставить эти функциональности (что ИИ конкретно делает), заявления (что сайт говорит о том, что ИИ делает) и предположения (что эти функциональности говорят об ИИ, людях или найме) с маркетинговыми материалами, описывающими ИИ, чтобы оценить его ясность.

3. Знакомство с индексом TARAI

Индекс TARAI совместно конструирует контекстуальную прозрачность ИИ для профессиональной практики найма. Этот обзор охватывает более 100 технологических продуктов, используемых при подборе персонала, с особым акцентом на системы искусственного интеллекта (ИИ), применяемые в этих продуктах. Информация в этой базе данных предназначена для демонстрации распространения ИИ в HR Tech для двух различных сообществ: практиков и исследователей, обслуживаемых в двух разных средах базы данных.

В Исследовательской среде мы предоставляем панель управления, предлагающую исследовательские перспективы по заявлениям о продукте, допущениям и ясности ИИ. Панель управления поддерживает сравнение продуктов и социотехнический анализ в экосистеме HR Tech и выделяет функциональность продукта, заявления, допущения и ясность ИИ. Кроме того, эти представления позволяют специалистам по работе с персоналом изучать заявления о продукте относительно функциональности и найма. Исследовательская среда содержит четыре отдельные ориентированные на исследования области. Среда включает четыре исследовательские области: функциональность и ясность ИИ (в стиле Kanban), допущения и Generative AI (с использованием инклюзивного тегирования для создания отфильтрованных списков).

Среда рекрутера содержит фильтрацию для инструментов HR Tech в соответствии с различными этапами процесса найма (например, ATS, инструменты для скрининга) и предоставляет отдельный вид для изучения интеграций продуктов. Как показано на рисунке 2, среда рекрутера представляет собой большой список. Среда рекрутера предлагает практический обзор, позволяющий рекрутерам оценивать функциональность продуктов и заявленные характеристики по этапам найма. Каждая запись по продуктам HR Tech развертывается, предоставляя стандартизированные сведения о функциональности продукта, заявленных характеристиках, допущениях и ясности применения ИИ для сопоставления..Эта информация отражена и в среде исследователя, но адаптирована под наши исследовательские вопросы..

Две среды работают в тандеме, представляя понимание этих инструментов, укоренённое в повседневной профессиональной практике, а также социальные и технические основания этих технологических продуктов, чтобы позволить изучить третью линию нашего исследовательского замысла — переплетение продуктов HR Tech, ИИ и социальной практики рекрутинга, встраивающихся друг в друга.

База данных использует стандартизированный, основанный на практиках язык и отсортирована по воронке найма. Для рекрутеров мы предоставляем исчерпывающий, охватывающий разные этапы воронки найма перечень функций продуктов, который позволяет рекрутерам сортировать, выполнять поиск и проводить манипуляции, чтобы сравнивать функциональные возможности продуктов, исследовать утверждения и их лежащие в основе допущения, а также оценивать прозрачность различных интеграций ИИ в рекрутинговых продуктах, используя язык, удобный для практиков. Для исследователей мы предоставляем более прицельную информацию для ответа на исследовательские вопросы, которые мотивируют этот проект: а именно, как продукты HR Tech используют ИИ и насколько прозрачно продукты HR tech говорят об этом ИИ. Ввиду их значимости для смыслообразования при использовании HR Tech в найме, ключевые элементы базы данных таковы: функциональность продукта, заявления продукта, лежащие в основе допущения и общая ясность ИИ.

Индекс TARAI опирается более чем на 100 интервью с рекрутерами и другими специалистами по управлению персоналом, используя эти беседы для разработки представления о материалах, компетенциях и смыслах профессиональной практики подбора персонала. Опираясь на эти выводы, индекс TARAI обеспечивает контекстную прозрачность, позволяя пользователям изучать доступные варианты технологий, лучше понимать, как ИИ встроен в различные технологические инструменты, и сравнивать доступные инструменты.

4. Привязываем нашу базу данных к профессиональной практике найма

В этом разделе мы описываем, как мы использовали данные наших интервью, чтобы опереть наше исследование на профессиональную практику найма: выявление материальных объектов – в данном случае продуктов HR Tech – которые практики обычно используют, а также компетенций в подборе персонала. В ходе нашего анализа мы выявили несколько противоречий между рекрутерами и ИИ и использовали их, чтобы направлять наше исследование в отношении функций, заявлений, допущений и ясности ИИ продуктов HR Tech, которые мы выявили.

⟦Figure 3. Наш исследовательский процесс в виде блок-схемы.††:

4.1. Интервью: укоренение в социальной практике

Мы провели более 100 полуформализованных интервью с специалистами по персоналу, рекрутерами и разработчиками HR Tech (2021–2025) в двух организациях при наличии одобрения IRB. Участников набирали через профессиональные сети, прямые обращения и социальные сети (LinkedIn). Участники находились на разных этапах карьеры и работали в США, Канаде, Австралии, Индии и Англии. Мы не собирали демографическую информацию о практиках сверх этих сведений. Интервью были сосредоточены на рабочих практиках, используемых продуктах HR Tech и взглядах на подбор персонала. Эти интервью были разработаны, чтобы помочь нам понять социальные практики рекрутинга. Участники упоминали компетенции (например, умение считывать людей), материалы (например, какие ATS они использовали, или использовали ранее), а также обсуждали, как они договаривались о смысле в меняющемся ландшафте HR Tech. Интервью (30–90 минут) проводились дистанционно через Zoom, записывались и расшифровывались с согласия.

4.2. Анализ: Понимание потребностей практикующих в прозрачности

Чтобы расставить приоритеты для информации в базе данных HR Tech, мы независимо проанализировали четыре года данных интервью (2021–2025) с участием специалистов по HR. Отвечая на наши исследовательские вопросы, наше кодирование было сосредоточено на применении HR-технологий в подборе персонала и потребностях в прозрачности ИИ, при этом наш анализ был сфокусирован на интеграции ИИ в продукты HR-технологий. В ходе этого анализа выявился ряд тем, которые непосредственно повлияли на нашу структуру базы данных и дизайн:

• ⟦ Искусственный интеллект, развернутый в продуктах для технологий управления персоналом, не соответствует информационным потребностям рекрутеров — например, P76, технического рекрутера, который прокомментировал: «Ни один из ИИ-инструментов, которые все эти платформы выпускают, не оказался хотя бы близко к тому, насколько полезны [при поиске] просто базовые булевы операторы», — и P99, менеджера по подбору персонала, указал на проблему ИИ-поиска в инструментах вроде LinkedIn: «LinkedIn Recruiter использует много ИИ, я не выношу их ИИ, потому что он ограничивает объем информации, который я могу найти. […] Я думаю, что когда вы просто используете эти стандартные поисковые запросы с ИИ, это действительно будет ограничивать возможности рекрутеров.”
• ⟦ Вопросы сохранялись о том, как работает используемый ими ИИ и каким образом он приходит к сделанным выводам — П73, независимый рекрутер, отметил, что иногда рекрутеры используют ИИ для ранжирования кандидатов как «произвольный механизм сортировки [кандидатов]». П90, директор по продажам его кадрового агентства, указал на некоторые недостатки систем ранжирования, пояснив: «Мне они не нравятся, инструменты ранжирования будут составлять эти рейтинги, опираясь исключительно на резюме. А резюме никогда не передают личность человека. Они ищут должности. Они ищут развитие. Они ищут навыки. Они ищут ключевые слова. Поэтому они смотрят на описание вакансии, которое я написал, сравнивают его, ищут ключевые слова, и если у вас больше ключевых слов, чем у кого-то другого, вас ранжируют выше, хотя все, что вы сделали, — это наполнили там ключевыми словами, а они….”
• ⟦ HR- продукты не позволяют передавать нюансы в процессе смыслообразования — П80, старший рекрутер, рассказал о своих разочарованиях из-за систем ранжирования, используемых на его работе: они не учитывали нюансы. «Технически, в нашей ATS четыре варианта: excellent, good, bad, poor, а в конце интервью вы получаете score interview, и эта система использует эти ответы, чтобы создать оценочную карту. Мне не понравилась такая система, потому что кто я такой, чтобы определять, является ли ответ отличным или хорошим? Ведь они ответили на вопрос.”

Пронизывая эти темы, угроза профессиональному усмотрению возникает при найме (Sloane, 2023). Пo данным практиков, с которыми мы беседовали, поиск кандидатов или ранжирование кандидатов с поддержкой ИИ скрывают человеческое профессиональное усмотрение, уступая место решениям о найме, которые принимаются под управлением ИИ, по мере того как ИИ интегрируется в продукты HR Tech. Участники раскрыли противоречия между тем, что продукт заявлял о своих возможностях, и тем, какова была его функциональность на практике; они также обсудили свои опасения относительно непрозрачности — и, следовательно, ясности — ИИ, встроенного в продукты HR Tech, которыми они пользовались. Непрозрачность в сочетании с автоматизацией угрожает усмотрению, поскольку рекрутеры, с которыми мы говорили, привыкли применять инструменты, чтобы расширять, а не ограничивать своё усмотрение; во многом из того, что рекрутеры делают в своей профессиональной практике, к лучшему или к худшему, лежат интуитивные ощущения. Приведённые выше цитаты описывают темы многих разговоров, которые мы вели с практиками, и возвращают наше внимание к необходимости контекстной прозрачности для рекрутеров и специалистов по персоналу.

4.3. Вторичный анализ: выявление выборки данных продуктов HR-ИТ

Чтобы определить продукты HR Tech, используемые при найме, мы зафиксировали продукты HR Tech, упомянутые в интервью, и ранжировали их по частоте упоминаний в интервью. Во-вторых, мы собрали списки участников выставки с ежегодной конференции Human Resources Technologies Conference (Лас-Вегас, штат Невада, США, 2021–2024)333 Ежегодная конференция Human Resources Technologies Conference проводится в сентябре, поэтому мы не включили данные о посещаемости за 2025 год. Мы выбрали Human Resources Technologies Conference, потому что это профессиональная конференция, имеющая наиболее тесную связь с отраслью HR Tech, которая также включает большую выставку продуктов HR Tech. После проверки окончательного списка из 1,069 участников выставки на предмет пригодности продукта для найма мы обнаружили 450 уникальных продуктов и сравнили их с продуктами, упомянутыми в интервью. Затем список продуктов, упомянутых в интервью, и список, полученный в результате поиска участников конференции, были сопоставлены, что дало нашу итоговую совокупность данных о продуктах, а критерии включения основывались на пересечении, многократных упоминаниях в интервью или многократных появлениях на конференции. В результате получилось 113 уникальных продуктов. Рисунки 4 и 3 детализируют эти шаги.

⟦Figure 4. Уточнение нашей подборки продуктов HR Tech.††:

5. Построение базы технологий для управления персоналом: поиск данных и проектирование

В этом разделе мы описываем наш процесс построения прототипной базы данных. Мы описываем наш метод сбора данных и то, откуда мы получали данные о компаниях в области HR Tech. Затем мы представляем наши соображения при создании прототипной базы данных.

5.1. Анализ текста маркетинговых материалов продукта

Чтобы оценить прозрачность ИИ в 113 продуктах HR Tech, мы извлекли данные «заявлений» непосредственно с веб-сайтов продуктов, а не из внешних источников, рассматривая их как первичные источники. Мы выбрали этот подход, поскольку веб-сайты продуктов часто являются единственным источником информации для практиков и, следовательно, должны содержать поддающуюся объяснению информацию. Рассмотрение документации продуктов — это устоявшийся метод исследований в области HCI (Scheuerman et al., 2020; Hedegaard and Simonsen, 2013). Если на веб-сайтах продуктов не было информации «демографического» характера о продуктах HR Tech (например, размер компании, физический адрес), мы использовали Pitchbook и Crunchbase, поскольку эти базы данных хорошо зарекомендовали себя и используются в HRM и бизнес-школах. Мы также отслеживали слияния и поглощения, отмечая по результатам интервью, что некоторые участники до сих пор использовали унаследованные продукты (например, использование Taleo вместо других продуктов HRIS компании Oracle).

Исследовательская группа просмотрела маркетинговые материалы компании, используя ручной поиск в Google с оператором «site:» и Chat GPT-3 для поиска по определенным веб-доменам. Мы делали это для взаимной проверки и проверяли результаты поиска по цитируемому тексту на точность. Отсюда мы вводили данные вручную после сопоставления наших выводов и устранения расхождений с помощью дальнейшего исследования в составе группы. Команда встречалась еженедельно, чтобы уточнять схему нашей базы данных, разрабатывать и устанавливать соглашения по оформлению и отображению, а также уточнять кодовую книгу по мере появления новых результатов.

⟦Figure 5. Первоначальный прототип для базы данных HR Tech.††:

5.2. Создание прототипа

Мы стремились сделать информацию в нашей базе данных доступной, согласовав ее с профессиональными практиками рекрутеров. Специалисты, с которыми мы говорили, описали трудности с продуктами HR Tech на протяжении всего процесса найма (например, проблемы P80 с его системами оценки интервью в ATS), что подчеркивает необходимость в более качественных инструментах. Мы интегрировали ключевые термины, используемые рекрутерами (например, «hiring funnel»), в базу данных, поскольку практико-ориентированный язык является «компетенцией», которую мы получили в ходе интервью (Shove et al., 2012). Мы пришли к выводу, что сортировка продуктов HR Tech по этапу найма и их разметка для удобного поиска на основе «hiring funnel» позволит максимально повысить удобство поиска. Кроме того, мы переводили описания продуктов из маркетинговых материалов на язык, понятный рекрутерам, выявленный в ходе наших интервью, например сокращения рекрутеров и сленг вроде ATS или HRIS.

Мы просмотрели вебсайты продуктов, чтобы определить поддерживаемые этапы найма, и выбрали 10 HR Tech продуктов для первоначального анализа, гарантируя, что мы охватили все этапы воронки найма. В ходе нашего исследования мы нашли больше доказательств того, что ИИ-непрозрачность — это не просто техническая проблема, а проблема, которая выходит за рамки и распространяется на поверхностные описания продуктов, с которыми мы столкнулись и которые потенциально могут привести к введению клиентов в заблуждение. P78, бывший корпоративный рекрутер, описал разочарование из-за AI-driven HR Tech продукта, который он использовал в предыдущей должности:

“Я не хочу сказать, что [anonymous HR Tech product] намеренно скрывали, что они делают и чего они не делают, но я думаю, что большая часть того, что происходит за закрытыми дверями в этих компаниях, заключается в том, что они не могут [say what they’re doing]. […] Самое большое разочарование, думаю, у меня в том, что вокруг этого нет просвещения. Нет никакой осведомлённости. И так если я рекрутер, использующий этот инструмент, у меня нет калибровки того, работает ли он так, как должен, и я потенциально могу причинить где-то вред, верно? Как, нет какой-либо [transparency].”

P78 объяснил, что он не считал, будто инструменты, которыми он пользовался, способны делать всё, что они утверждали, поэтому их сайты не были прозрачными. Другие участники также отмечали похожие разочарования: P29, технический рекрутер, объяснил,

“Я думаю, это всегда вопрос о том, как кандидатов ранжируют в ⟦BROKEN_K0⟧, потому что некоторые кандидаты оказываются выше в списке, но не подходят для вашей роли. И вы задаётесь вопросом: почему этого человека вообще предложили? Обычно у вас нет ответов.”

Эти опасения привели нас к тому, чтобы исследовать первые десять продуктов HR tech и то, как они описывали ИИ. Мы также наблюдали здесь несоответствия: иногда объясняли, что именно представлял собой ИИ (например, «LLM» или «оболочка ChatGPT»), но при этом его функция и контекст использования часто оставались неясными. Мы обнаружили, что раскрытие информации компаниями зачастую было единственным источником сведений об этих моделях ИИ и их назначении. Когда такая информация была доступна, мы фиксировали тип ИИ, то, как работал ИИ (его функция и контекст использования), а также любые сведения о данных обучения для этого ИИ, которые нам удавалось найти..

При исследовании этих деталей о том, как работал ИИ, и при сборе базовой информации о компаниях, которые производят продукты HR Tech (например, возраст компании, местоположение и число сотрудников), наша работа предоставила еще больше свидетельств того, что непрозрачность ИИ выходила за пределы технического «черного ящика» в другие пространства, такие как поверхностные описания продуктов. P100, рекрутер, назвал многие из этих продуктов «vaporware», объясняя:

“Когда компании говорят, что мы следующая платформа для найма с помощью ИИ, и ⟦BROKEN_K0⟧ — это просто целевая страница, или же не существует никакого программного обеспечения, или есть какой-то яркий демонстрационный показ, и в основном всё похоже на макеты пользовательского интерфейса. И если инструмент ⟦BROKEN_K1⟧ действительно был развернут, то данные, которые он обрабатывает, не имеют значения. Вы это всё время видите у многих таких компаний, которые пытаются продать, например, крупнейшую в мире базу данных. И, ну а откуда берутся эти данные? И это вообще никак не описывается.”

Определённость P100 в том, что многие из этих продуктов HR Tech были «vaporware» с неясными источниками данных, хорошо иллюстрирует это открытие. Позже он указал на разочарования в собственных исследованиях продуктов HR Tech, отметив, что было сложно понять даже базовую информацию о том, как эти продукты функционируют, не используя их самому. «Я определённо думаю о том, чтобы пойти по этому пути, где я активно взаимодействую с этими руководителями и спрашиваю: вы можете показать мне взгляд за кулисы?» — сказал он, описывая, чего он хотел добиться, чтобы лучше понять, какие из этих продуктов будут полезны рекрутерам для использования.

На основе непрозрачности, которую мы наблюдали в функциональности продуктов, ясности в отношении ИИ и формулировок заявлений, мы добавили сведения о функциональности ИИ для каждого продукта. Это включало информацию о том, ранжировал ли продукт кандидатов с помощью ИИ, предлагал ли он автоматизацию процессов и была ли интегрирована генеративная ИИ. Мы разработали систему тегов, чтобы фиксировать рост интеграции генеративной ИИ в HR Tech, поскольку это было на первом плане для многих респондентов на интервью. Она включает общие сведения о функциональности продуктов, такие как: “uses Generative AI to write candidate correspondence” и “uses process automation to schedule interviews.” Мы разработали аналогичные теги, которые специально охватывали функции генеративной ИИ. Мы также отмечали и обобщали заявления о продукте и встроенные допущения в развернутом виде и в тегах.

Figure 6. Среда исследователя; демонстрация использования ИИ в воронке найма Dataset.††:

6. Методы оценки

Мы провели три итеративные проектные семинарские сессии, чтобы уточнить базу данных, следуя стандартным методам проектирования (O’Leary et al., 2018). Искреннее участие в проектировании ИИ не считается возможным (Sloane et al., 2022b; Birhane et al., 2022; Delgado et al., 2023; Madaio et al., 2022), потому что проектирование систем ИИ является исключающим процессом. Используя итеративные, совместные методы, мы обеспечили учет мнений практиков для базы данных по прозрачности ИИ, опирающейся на профессиональную практику. Наш процесс проектирования начался со входных данных от заинтересованных сторон, затем последовало прототипирование и раунды обратной связи, пока не были достигнуты цели проектирования (Cross, 2023; O’Leary et al., 2018). Для этого исследования мы рассматривали наше предыдущее интервью-ориентированное исследование как исходные встречи с заинтересованными сторонами; и использовали возникающие вопросы, которые применяют HR-практики, чтобы создать первоначальный прототип. Этот первоначальный прототип был представлен на публичном симпозиуме, связанном с источником финансирования этого исследования, где мы просили участников принять на себя определенные роли, которые используют и оценивают продукты HR Tech. Персоны — это распространенный способ структурировать информацию о пользователях и проводить сценарно-ориентированное исследование в HCI (Salminen et al., 2022), и они создают общую основу для разных групп (Aljohani and Blustein, 2015). Следующие семинары проводились либо группами, либо 1:1 с HR-практиками на различных этапах уровня компетентности. Заключительные семинары были более формальными техническими walkthrough с HR-руководителями, которые часто делают рекомендации по покупке лицензии. Ниже мы кратко описываем базовую процедуру каждой сессии.

6.1. Начальный семинар: Персоны

Этот семинар проходил в январе 2025 года на симпозиуме в нашем домашнем учреждении, при участии 50–60 человек. Участниками были преподаватели по data science, преподаватели бизнес-школы, аспиранты и заинтересованные представители местного сообщества. Хотя точное число участников не фиксировалось, по мере того как люди приходили и уходили во время докладов, примерно 50–60 человек находились в зале, а продолжительность семинара составила 50 минут. Участникам предоставили информацию об исследовании и форму согласия, а также они ознакомились с предварительными результатами. Из-за широкого диапазона опыта среди участников мы создали персоны. Персоны полезны в проектно-ориентированном исследовании, поскольку их введение в раннюю стадию исследования знакомит с гипотетическими конечными пользователями, чтобы направлять исследование через погружение в потребности этих гипотетических конечных пользователей (Aljohani and Blustein, 2015; Salminen et al., 2022). Для этой оценки были созданы три персоны: рекрутер, HR procurement и AI auditor (полные сведения см. в Приложении A).

Каждая группа персон была организована участником исследовательской группы, которому помогал записывающий. Группы оценили прототип базы данных и предоставили обратную связь. Кроме того, участники могли делать записи в своих экземплярах базы данных, которую мы оцифровали по завершении семинара.

6.2. Второй семинар: практические семинары

После просмотра данных из семинара по персоне мы пересмотрели и расширили базу данных в Airtable, программe для работы с базами данных, увеличив количество продуктов HR Tech, подробно описанных в ней, с пяти до тридцати на основе входных данных отзыва с семинара. Эти продукты были выбраны из списка инструментов HR Tech, о которых практики больше всего обсуждали, чтобы обеспечить знакомство с продуктами HR Tech, отображаемыми в базе данных. Мы разработали ориентированные на практиков навигационные интерфейсы в Airtable, используя его дизайнерские возможности, чтобы упростить для практиков изучение базы данных.

Семинары для практиков проводились в период с апреля по май 2025 года; практикующих участников набирали в социальных сетях, таких как LinkedIn, а также среди бывших респондентов, которые выражали заинтересованность в продолжении участия в проекте. Таблица 7 в Приложении A показывает профессиональную роль каждого участника и соответствующую ему сессионную работу семинара. В первые два семинара записались восемь человек, но только один (Семинар № 2) представлял собой коллективную оценку среди четырех практиков. Остальные оценочные сессии проводились один-на-один с исследователями, которые проводили участников по тому, как они будут ориентироваться в базе данных, задавали вопросы о том, что они видят, и изучали информацию, которую собрала исследовательская группа. Участники просили больше свободы для исследования и меньше академического языка.

6.3. Оценка: разбор собеседований по процедуре walkthrough

Для третьей версии базы данных мы стремились понять профессиональное использование и влияние такой базы данных силами специалистов по управлению персоналом (HRM). Мы использовали подход, основанный на методе walkthrough (Light et al., 2018), чтобы участники прошли по базе данных и оценили ее удобство использования. Мы привлекли пять экспертов, используя UserInterviews.com, и компенсировали им работу по ставке $60.00 USD/hour (Таблица 8 в Приложении A содержит их демографические данные). Помимо этих пяти участников, обратную связь также предоставили два участника предыдущего семинара и один бывший респондент..

7. Обсуждение: создание базы данных HR-технологий

В этом разделе мы обсуждаем наши результаты по построению индекса TARAI как метода создания прозрачности искусственного интеллекта, ориентированной на практику. В наших наблюдениях мы обнаружили, что функциональность продукта часто описывалась неоднозначно, что создавало сложности для прозрачности ИИ; это мы задокументировали в базе данных. Кроме того, мы обсуждаем наблюдения по часам о том, как заявления о продукте и допущения группировались вокруг более широких тем. Мы приводим отзывы участников о том, как мы представляем заявления и допущения в базе данных, и обсуждаем то, как описываем нашу оценку ясности ИИ, а также обсуждаем ограничения нашего подхода к созданию контекстной прозрачности ИИ в базе данных.

7.1. Характеристика функциональности продукта

Чтобы определить критерии продукта, мы в первую очередь изучили сайты продуктов и рекламные материалы, чтобы охарактеризовать типы ИИ, такие как порождающий ИИ или большие языковые модели. В ходе этого процесса мы выяснили, какие продукты HR Tech обладают функциональностью порождающего ИИ или автоматизации процессов. Эти функциональные признаки были важными индикаторами, помогая группировать похожие продукты HR Tech. При вынесении такого суждения мы также смогли отсеять часть «пустого жаргона» (PW1-1), чтобы сосредоточиться на реальной функциональности. Однако нам нужно было быть осторожными, поскольку PW3-1 также указал, что иногда, «[Т]акая функция — чушь, ее даже не существует, или она едва существует…». Мы гарантировали, что поля функциональности документируют только то, что указано в рекламных материалах. Мы создали теги для распространенных функций ИИ и порождающего ИИ. Хотя функциональность порождающего ИИ была встроена в более общее описание функциональности ИИ, порождающий ИИ также получил отдельные теги из-за интереса практиков в ходе наших интервью.

Во время практических семинаров практики подчеркнули свою потребность сравнивать продукты, часто из-за ограничений ресурсов. Сравнение продуктов и их интеграций также обсуждалось в ходе наших ознакомительных интервью, и это желание упоминалось в наших интервью. Участники ознакомлений нашли, что предоставленная база данных обеспечивает полезную опору для новичков в HRM или подборе персонала.

7.1.1. Маркировка и сортировка заявленных функциональных возможностей по кластерам

Наша артикуляция функциональностей продукта развивалась в ходе оценочных сессий. PW2-2, технический рекрутер, отметил желание «просто список функций [как] способ начать», что было похоже на отзывы первой мастерской, где все три группы персон дали нам обратную связь о том, что база данных должна предоставлять больше деталей о функциональностях продукта. Мы разработали инклюзивные и эксклюзивные системы сортировки на основе тегов для этих продуктов. Эти теги описывали (1) на каких стадиях воронки найма эти инструменты поддерживали, (2) функциональности генеративного ИИ и (3) общую функциональность продукта, включая функциональности ИИ. Мы также задокументировали язык, который компании использовали для описания любого ИИ в своих продуктах. Тегирование выявило частые расплывчатые или потенциально вводящие в заблуждение описания ИИ, которые часто приводились рядом с четкими определениями других функциональностей продукта. Например, Findem описывает свой ИИ как «Generative AI» (ясно) и «source and match AI» (менее ясно): что именно берется из источника? И с чем именно это сопоставляется? На рисунке 7 показаны различные способы, которыми Findem описывал свой ИИ, отраженные в индексе TARAI Index.

Figure 7. Снимок экрана индекса TARAI, показывающий различные способы, которыми компания Findem описала свой ИИ.††:

Эти кластеры тегов помогли нам выявить общие закономерности между продуктами и проинформировали наш анализ того, как продукты HR Tech обрабатывают данные кандидатов. Формулировки, описывающие функциональность продукта, различались в зависимости от того, о чем шла речь. Например, Loxo, ATS в 8, использует ясный язык для автоматизации, передавая, как работает процесс, и указывая стадии воронки найма, такие как поиск кандидатов и отбор.

⟦Figure 8. Снимок экрана продукта HR Tech, веб-сайта Luxo, с описанием того, как их продукт использует автоматизацию процессов.††:

Однако описание ИИ у Loxo непрозрачно, поскольку смешивает функциональность ИИ с автоматизацией. На рисунке 9 показано, как функция продукта, например использование ИИ для ранжирования кандидатов на вакансии на основе критериев вакансии, описывается четко, но при этом дополняется расплывчатой формулировкой для описания ИИ, с использованием «собственных алгоритмов». Хотя оба этих описания продвигают себя как меры по экономии времени, автоматизация выражается более наглядно через примеры, но описание ИИ не содержит поддерживающих деталей. Мы часто наблюдаем неоднородность в том, насколько ясно была определена функциональность продукта, особенно в части того, как ИИ оценивает, анализирует или обрабатывает данные кандидатов.

⟦Figure 9. Снимок экрана продукта HR Tech, веб-сайта Luxo, с описанием ИИ их продукта.††:

7.1.2. Расшифровка того, как ИИ в HR-технологиях оценивает, анализирует и взаимодействует с кандидатами

Окончательное поле функциональности оценивало, как ИИ работал внутри продуктов HR Tech. В отличие от нашей общей разметки функциональности, мы использовали закрытые теги для документирования функций ИИ. Мы были обеспокоены и хотели задокументировать влияние ИИ на фактические шансы кандидата продвинуться в процессе найма. В ходе нашего обзора мы обнаружили, что существует три основные группы вмешательства ИИ при найме кандидатов, как показано в Таблице 2.

AI Intervention	Explanation	Example Tech
Uses AI to Eliminate Ineligible Candidates	This included, broadly, process automation processes such as knock-out questions candidates completed while submitting an application. It also included the interventions of chatbots, programmed to gather basic candidate information such as willingness to relocate or years of experience and compare it to pre- determined eligibility criteria.	HireVue Taleo Jobvite
Uses AI to Assess Candidate Skill	This category was primarily concerned with tools designed to assess a job candidate’s skill, particularly technical skills (e.g., programming, problem solving) These tools assigned candidates scores, but the scores were not used to advance or reject a job candidate.	CodeSignal HackerEarth Karat
Ranks Eligible Candidates with AI	In this category, we identified products that reported an embedded functionality that ranked candidate in some way. Sometimes, these candidates had already been subject to an elimination around with a chatbot or automated process. This included terms meant to convey that an AI was processing available infor- mation about a job candidate and assigning some kind of score in a context that was not focused on evaluating technical or problem-solving skill.	Gem iCIMS
No AI	This was a catch-all category for products whose AI did not impact a candidate’s ability to advance in the hiring process, or products that did not use AI.	Vetty WorkReels

⟦Table 2. Примеры вмешательства искусственного интеллекта в HR-технологии.††:

Анализ того, как ИИ функционировал в этом контексте, выявил непрозрачный язык в маркетинге для систем ИИ с высоким риском. Автоматизация процессов и ИИ-ранжирование также часто сводились в туманную категорию «ИИ». Мы наблюдали это последовательно, например, на примере Loxo, что повышало риск для покупателей и практиков. Используя неточный язык, продукты HR Tech способствуют проблемам прозрачности ИИ. Наш продукт по системе маркировки и функции ИИ, включая то, как ИИ взаимодействует с кандидатами, воспринимались положительно. W3-3, пояснила: «Я думаю, когда компании покупают инструменты, особенно если [команда по найму] не участвует в процессе принятия решений, мы не знаем полной [продуктовой] функциональности, потому что никто нам ее не объясняет, и затем мы задаем вопросы, но это превращается в дополнительную опцию и в стоимость», если нужной ей функциональности не было в купленном продукте. PW3-1, обсуждая первоначальный фокус нашего второго прототипа на системах отслеживания кандидатов, добавила: «Отдельные рекрутеры по-прежнему ищут функциональность […] разовые узкие нишевые продукты». В обоих этих случаях индекс TARAI был полезен, чтобы пробиться сквозь непрозрачный маркетинговый язык этих продуктов HR Tech, который часто повторяется и подтверждается продавцами, которые, как объяснила Pw3-1, считают, что легко продать продукт, «в котором не было ошибок [и] который делал все [что компания] просила, и который собирался полностью удовлетворить [эту компанию]»—даже если такого продукта на самом деле не существовало. Рассмотрение ИИ как маркетингового термина скрывает его функции внутри продукта, снижая прозрачность. Средний пользователь видит автоматизированные процессы, например отсекающие вопросы, которые обычно встроены в формы заявок на работу и проверяют лицензии, статус визы или иногда даже физическое местоположение, как тот же ИИ, который сортирует, классифицирует и ранжирует кандидатов на работу на основе их материалов. Это побудило нас углубиться в те утверждения, которые продукт делал о том, что он может, и какие предположения могли лежать в основе этого утверждения.

Figure 10. Снимок экрана веб-сайта Textio.

⟦Figure 11. Снимок экрана с веб-сайта Textio.

7.2. Исследование заявлений о продукте и допущений

Мы выявили различные утверждения, сделанные продуктами ИТ для управления персоналом, изучая описания продуктов ИТ для управления персоналом и выводя лежащие в основе утверждения. Например, многие продукты предлагали автоматизацию процессов, утверждая, что это снижает канцелярскую нагрузку рекрутеров. В этом случае продукт утверждает, что автоматизация различных канцелярских процессов (например, outreach кандидатов) делает работу рекрутеров более эффективной. Допущения были столь же сложными и требовали более детального анализа предметной области. Допущение, как изложено в нашем разделе о смежных работах, представляет собой набор неявных фоновый знаний и принимаемых как само собой разумеющихся рамок для любой деятельности или действия, которые не подвергаются критическому осмыслению (Harvey et al., 2024; Cook and Brown, 1999). Например, допущение, встроенное в автоматизированный инструмент, который генерирует корреспонденцию кандидатам, заключается в том, что автоматизация делает рекрутеров более эффективными. Утверждения специфичны для отдельных продуктов; однако допущения, как правило, более общие.

7.2.1. Заявления о продукте

Утверждения являются продуктово ориентированными, но в ходе нашего анализа выделилось несколько крупных подгрупп. Первая крупная группа была связана с точностью и эффективностью. Многие продукты HR Tech заявляли о повышении эффективности рекрутера или о сокращении времени, затрачиваемого на взаимодействия, не относящиеся к кандидатам. Такие заявления ссылались на функции, такие как generative AI для персонализированной коммуникации с кандидатами или автоматизированное планирование. Например, Textio использует ИИ для улучшения качества описаний вакансий и кандидатских коммуникаций, проверяя наличие предвзятости (Figure 7.1.2). Textio утверждает, что на скриншоте, который мы сделали, оно «оптимизирует» текст для «привлекательности и инклюзивности». Textio также утверждает, что его контент, сгенерированный ИИ, отличается высоким качеством, а не «мусором» (Figure 7.1.2). Такие заявления демонстрируют отраслевой акцент на эффективности и экономии времени, при этом не жертвуя качеством.

Второй кластер обнаруженных нами утверждений относился к продуктам, которые заявляли, что являются платформой полного цикла найма, включая как ATS, так и более крупные HRIS с интегрированным отслеживанием кандидатов на работу. В этих утверждениях продвигались синергии рабочих процессов и интеграции, которые мы также задокументировали. Мы выделили типовые интеграции (например, совместимость с системой расчета заработной платы или HRIS) в Recruiter Environment. Мы решили представить эти продуктовые утверждения в наших сводках утверждений, утверждая, что этот продукт был ATS или HRIS, а затем обсуждая другие утверждения о продукте.

Наконец, многие утверждения группировались вокруг ИИ, причем многие утверждения были сосредоточены на ИИ-способностях продукта в области HR Tech (например, Textio, Figure 7.1.2). В этих утверждениях подчеркивалась совместимость ИИ с существующими процессами найма, а также ИИ-способности внутри рабочих процессов найма. Примером этого является инструмент candidate relevance компании ADP, в котором утверждается, что он помогает сопоставлять информацию из материалов кандидата и резюме с ключевыми словами в описании вакансии и предоставляет ранжирование «relevancy» (релевантности). Эти утверждения требуют наличия у поставщиков понимания и осведомленности об ИИ и о том, как ИИ принимает различные решения, относящиеся к кандидатам на работу. Эти инструменты также рекламируются как средство экономии времени или как потенциально эффективная замена реальной оценке кандидатов человеком. Для этой категории мы подробно описали, как встроенный ИИ работает, при этом практики также подчеркивали необходимость задавать поставщикам детальные вопросы. Pw5-1 прокомментировал,

“Возможно, это предостережение вы где-то размещаете здесь как общее утверждение: чтобы [рекрутеры/отделы кадров] задавали больше вопросов, если они привлекают этих поставщиков, чтобы добиться того, чтобы они действительно могли различать или описывать, как они, возможно, используют настоящую ИИ.”

Это предложение создать инструмент, который мог бы побуждать специалистов «задавать лучшие вопросы» или «задавать правильные вопросы, чтобы понимать, о чём они действительно думают» (P97, который возвращался для интервью по разбору процесса) в этих компаниях HR Tech, мы восприняли близко к сердцу, поскольку именно оно лежит в основе того типа контекстной прозрачности ИИ, который мы хотели построить. Этот подход повлиял на то, как мы документировали скрытые предположения в продуктах.

7.2.2. Допущения

Чтобы оценить допущения в нашей базе данных, мы проанализировали заявления продуктов, функциональность и лежащие в их основе представления о найме, исходя из нашего понимания профессиональных практик рекрутинга. Перечисленные нами допущения представляют собой нашу интерпретацию допущений, которые каждый продукт HR Tech делает относительно HRM и рекрутинга. Например, CodeSignal, используемый для отборочного скрининга кандидатов, рассматривает личностные особенности или способность проходить тесты как однозначные показатели соответствия кандидата. Хотя такие тесты обычно применяются, они не являются единственными предикторами успеха на рабочем месте. Мы изучили каждый сайт продукта, документируя информацию о том, как продукты использовали данные, а также как они применяли ИИ, чтобы гарантировать, что у нас есть полный список допущений.

⟦Figure 12. Снимок экрана вида допущений в среде рекрутера.††:

После завершения компаний в нашей базе данных мы выполнили тщательное прочтение допущений, которые выявили, и создали 24 кластера допущений. Например, многие продукты использовали генеративный ИИ для персонализации коммуникации с кандидатами. Более широкие категории учли это, сформировав кластеры, такие как «Искусственный интеллект может создавать более привлекательный письменный контент, чем люди» и «люди хорошо реагируют на сообщения генеративного ИИ». Рисунок 12 показывает, как эти допущения были представлены в среде для исследователя. PW1-1 (P76), после просмотра среды для исследователя, прокомментировал:

“[S]some из [допущений] заставляют меня […], например, «ИИ может создавать более привлекательный письменный контент, чем люди», и моя мгновенная реакция: «Нет, мне это не нравится». И помогает иметь [текст-объяснение] над каждой отдельной [категорией допущений], чтобы я помнил, что это именно допущение; это не этот сайт делает мне такое заявление.”

Assumptions Cluster	Example Tags	%
How humans interact with HR Tech Products as either users or candidates.	Chatbots can appropriately and effectively converse with candidates. AI or automation reduces recruiter workload or speeds up repetitive tasks	13.04%
How humans interact with the outputs of HR Tech products.	AI can determine which candidates are the best fit for a role based on job materials Candidates respond well to AI-generated messages.	17.39%
How HR Tech Products and their AI Systems Function	AI can accurately parse candidate resumes for relevant information Automated communication improves recruiter effectiveness	34.78%
How practitioners understand the outputs of AI systems embedded into HR Tech products.	AI is less biased than humans and will act more fairly in hiring contexts Humans understand AI candidate ranking and will evaluate that ranking critically	34.78%

⟦Table 3. Таблица, описывающая категории предположений, встроенных в продукты HR Tech ††:

Мы выявили мета-кластеры, выходящие за рамки общих предположений о HRM среди технологических компаний. Список этих кластеров приведён в Таблице 3. Ключевая область внимания, пересекающая эти кластеры, заключалась в том, что компании трактуют смещение как проблему человека, а не технологии.. Например, Textio рассматривает смещение как проблему человеческого ввода (см. Рисунок 7.1.2), поскольку продукт предназначен для исправления «смещённого» письма людей. И наоборот, SeekOut рассматривает смещение как одновременно человеческое и техническое, выявляя показатели разнообразия, которые упускаются агрегаторами вакансий, и позволяя скрывать информацию, чтобы предотвратить неосознанное смещение (см. Рисунки 13, 14). Оба эти продукта используются на этапе подбора персонала: Textio накладывает поверх другие продукты, чтобы усилить коммуникацию, а SeekOut выявляет кандидатов, которые иначе могли бы быть упущены. Сопоставление этих предположений показывает, как продукты HR Tech формируют взаимодействие пользователей с ними и могут влиять на обходные варианты при работе с политиками.

⟦Figure 13. Скриншот сайта продукта HR Tech Seekout, рекламирующего его технические инструменты, чтобы помогать находить разнообразных кандидатов на ваканси膆:

⟦Figure 14. Скриншот сайта продукта HR Tech Seekout, рекламирующего его технические инструменты для скрытия индикаторов разнообразия с целью предотвращения бессознательной предвзятости.††:

Во время обходных интервью с руководителями отдела кадров и специалистами по закупкам W3-4, менеджер по персоналу, упомянула, насколько сложно было находить кандидатов с конкретными требованиями при этом соблюдая политики в ее офисе в отношении обработки кандидатов на работу. Другие участники вторили необходимости в большей информации для принятия решений. Предположения были хорошим местом, чтобы найти такую информацию. Поэтому мы оставили предположения как поле для длинного текста и как размеченную систему для сравнения; разметка позволяла получать отфильтрованные представления заявлений; длинный текст фиксировал нюансированные категории.

7.3. Оценка ясности ИИ

Понимание функциональности продукта, его заявлений и допущений дало нам основу для оценки ясности ИИ продукта. Мы определили это с помощью двух оценок: были ли ясно описаны цель ИИ в рамках инструмента и была ли ясно описана функция ИИ. Мы изучили маркетинговые материалы продукта, чтобы проверить, была ли присутствие ИИ и его назначение понятны среднему пользователю. Например, мы столкнулись со многими продуктами HR Tech, которые, казалось, просто заявляли, что у них есть AI, без четкого обоснования или доказательств его присутствия. Как указал P100, ‘‘Это действительно AI? Все эти компании говорят AI то и AI это; многое из этого просто автоматизация.” Аналогично, PW5-1 отметил, что “[продукты HR Tech] иногда ссылаются на автоматизацию как на AI.” Во-вторых, после документирования функциональности продукта и заявлений у нас сложилась четкая картина того, как рассматриваемые продукты HR Tech концептуализировали AI, и насколько прозрачно их маркетинговые материалы описывали его функцию. Наша вторая мера заключалась в том, могли ли мы различить реальную функциональность AI по существующим маркетинговым материалам.

При изучении продуктов мы использовали следующий процесс принятия решений. Если ИИ, встроенный в назначение и функциональность продукта, был понятен исследовательской группе, мы помечали ясность ИИ как «clear». Если мы сталкивались с противоречивой информацией или расплывчатыми описаниями (например, «AI that doesn’t suck» от Textio) относительно как назначения, так и функциональности, мы отмечали ИИ продукта как «somewhat clear». Если мы не могли определить ни продукт, ни функциональность, либо имелось недостаточно информации, чтобы понять ИИ, мы обозначали продукт как «unclear». Мы также помечали продукты, в которых нет ИИ. После обратной связи по итогам семинара мы включили обоснование каждой оценки. Таблица 4 описывает этот процесс принятия решений.

Ranking	Purpose (To What End)	Function (How)
[HTML]D9EAD3 Clear	Explained	Explained
[HTML]FFF2CC Somewhat Clear	Explained or Not Explained	Explained or Not Explained
[HTML]F4CCCC Unclear	Not Explained	Not Explained

⟦К0⟧Ясность описания продукта на базе ИИ Boolean††:

Участники сочли эти рейтинги ясности полезными для понимания встроенного ИИ в продуктах HR Tech, которые мы изучили. PW4-1, работающий как влиятельный специалист в сфере HR и как рекрутер, предположил, что эти рейтинги также могут быть полезны разработчикам HR Tech, которые хотят сделать свои маркетинговые материалы более прозрачными. Он пояснил:

“Чтобы помочь [компаниям в сфере HR Tech] хорошо разобраться, у вас есть неясность, потому что [исследовательская группа] не смогла найти ничего [о том, как работает ваша ИИ-система] на вашем веб-сайте. […] С вашей стороны это будет помощь им с точки зрения маркетинга: сказать, эй, посмотрите, вы недостаточно хорошо формулируете эти сообщения, и мы говорим об ИИ во многих случаях, поэтому объяснимость и обоснованность этого [ясности] имеют невероятно важное значение.”

Комментарии во время семинаров по разработке персон также затрагивали вопросы обслуживания базы данных, чтобы обеспечить долгосрочную ценность для практиков и поставщиков. Хотя нашей конечной целью было создать ориентированный на практику инструмент, помогающий практикам оценивать ясность ИИ, это дополнительное потенциальное преимущество для нашей работы. Используя нашу трехбалльную шкалу для оценки ясности ИИ, по мере того как мы продвигались в ходе исследования, нам удалось показать, как непрозрачность в отношении ИИ, применяемого в HR, вышла за пределы технической области в пространства, где такая непрозрачность потенциально может вводить потребителей в заблуждение. Однако этот подход не был лишен недостатков и был ограничен несколькими способами, поскольку мы рассмотрим это в следующем разделе.

7.4. Ограничения нашего подхода

Одной из задач при создании базы данных технологических продуктов является то, что не существует единого способа описания их в маркетинговых материалах. Как упоминалось в нашем обзоре литературы, существует относительно похожая структура данных, которая способствует реализации функций HR Tech (Ajunwa and Greene, 2019), но, к сожалению, эта структура данных не распространяется на маркетинговый язык. Ограничив себя только тем, что мы смогли выявить из источников данных от первого лица (так сказать), мы сталкивались с моментами, когда просто не было данных, которые можно было бы внести в базу. Например, сбор базовой информации о продуктах HR Tech, которые мы оценивали, был не всегда однозначным. У многих продуктов было несколько функциональностей, а также существовали циклические промо-сайты, которые усложняли поиск информации о функциональности продукта. Чтобы устранить это ограничение в нашем подходе, мы составили всеобъемлющие списки продуктовых тегов, чтобы продукты могли существовать более чем в одной категории в зависимости от стадии найма, которую они поддерживали. Но даже это проектное решение имело свои ограничения, когда информация, необходимая для заполнения документации по продукту HR Tech, изначально просто отсутствовала. Это было особенно заметно при изучении функциональности AI, поскольку в многих случаях «AI» выступал как универсальный ярлык, который не позволял обеспечить необходимую для нашей документации конкретность. Часто, когда мы сталкивались с такой ситуацией, мы заносили «неясно» в ту часть детализации, которую мы исследовали. Мы признаем, что, ограничив наши источники данных только сайтами продуктов, мы не смогли предоставить полную и точную информацию. Или же полученная нами информация основывалась на вводящей в заблуждение либо неясной информации на корпоративном сайте продукта. Во время практических семинаров, PW2-3, менеджер по персоналу задал нам запрос на уточнение нашей маркировки продукта ADP:

“Я не самый технический человек. Признаюсь, я не всегда понимаю, о чём говорю, но я использую функцию ИИ в ADP больше, чем кто-либо из наших в любых других системах. Я использую её для создания описаний вакансий. Я использую её для подготовки ответов кандидатам. Я использую её для разбора и фильтрации. Поэтому я так растеряна, когда смотрю сюда и вижу, что нет ИИ!”

Когда мы повторно проанализировали то, что было задокументировано про ADP, мы обнаружили, что то, что первоначально было истолковано как интеграция стороннего продукта на базе ИИ, доступного через внутренний магазин дополнений ADP, на самом деле являлось собственной услугой ранжирования кандидатов. Понимание маркетинговых материалов, которые были настолько непрозрачными, что мы не могли определить функциональность, а также то, как маркетинговая формулировка менялась при выпуске новых продуктов или при слиянии компаний, часто приводило нас к использованию универсальной категории «неясно», которая была столь же непрозрачной, как и информация о продукте, которую мы пытались понять. Кроме того, информация и маркетинговые заявления на веб-сайтах могут быстро меняться — поскольку каждое обновление рекламного текста не обязательно должно отражать изменение функциональности, а скорее сдвиг в маркетинговой лексике. Мы предприняли шаги, чтобы снизить влияние этого недостатка в нашем подходе, подробно указав, почему что-то было неясным или непрозрачным, когда нам приходилось добавлять дескриптор «неясно», но признаем, что такой подход имеет пределы — насколько далеко он простирается в связи с готовностью людей читать наши рассуждения.

7.4.1. Недостатки для рейтингов ясности ИИ

Еще один недостаток, который мы обнаружили в нашем методе, заключался в том, как мы документировали ясность ИИ. Хотя участники были заинтересованы в сложностях ранжирования ясности ИИ, они также указали, что, вероятно, просто будут использовать эти оценки, чтобы определить «лучшие» продукты, отвечающие их потребностям, и оценивать их вместе со своими командами старшего руководства. W3-2 пояснил: «По сути, директор хочет, чтобы я получил тройку лучших [продуктов HR Tech]. Итак, чтобы получить эти три лучших, я прохожу по ясным [тегам], а затем, возможно, загружаю демо». Аналогично, W3-4 пояснил: «Если у нас есть каталог компаний, которых мы проверяем, я немного перегружусь, глядя на список «посмотреть все» [в базе данных]. […] В итоге я, вероятно, сузю выбор до тройки лучших, пятерки лучших. Я знаю, что список длинный, потому что вы собрали все возможные списки, но я просто говорю: мне нужно знать, кто лучше всего справляется с тем, что мне нужно [мне.]». В обоих этих случаях участники обходного интервью признали, что по умолчанию выберут несколько верхних позиций в списке, которые соответствуют их требованиям с «ясным» рейтингом. Предполагаемая ценность «ясного» рейтинга, как намекал выше PW5-1, предполагает, что «ясный» рейтинг ясности ИИ автоматически помещал бы продукт в начало списка для закупки лицензий независимо от встроенных утверждений, допущений или других деталей этих продуктов.

В дополнение к этому встречались случаи, когда какая-то часть ИИ продукта была объяснена ясно, но другие части — нет. В этих случаях мы бы пометили продукт как «отчасти понятный», несмотря на то, что в явном виде были объяснены и хорошо задокументированы отдельные аспекты функциональности ИИ. Предоставляя рейтинг на уровне продукта, а не более конечный рейтинг, мы ограничили эффективность этих оценок и, возможно, привели бы к тому, что команды по закупкам упустили бы потенциально полезные продукты, основываясь на воспринимаемой «отрицательной» оценке.

8. Выводы и дальнейшая работа

Наши результаты описывают метод построения ориентированной на практику базы данных доступных инструментов как способа изучения наших исследовательских вопросов: (1) что представляет собой пространство Recruiting HR Tech?, (2) как ИИ применяется в этих продуктах? и (3) что передается о применении ИИ в этих продуктах? Сосредоточив внимание на базовых элементах любого технологического продукта, использующего ИИ: функциональности, заявлениях продукта, лежащих в основе допущениях и общей ясности в отношении ИИ, мы показываем, как может быть достигнута контекстная прозрачность ИИ посредством проектирования базы данных. Мы опирались на интервью с практиками, чтобы информировать наш прототип, а также обсуждения оценочного семинара по этому прототипу, чтобы создать индекс TARAI, используя итеративный подход для размещения полученной нами информации и формирования оценки каждого рассмотренного нами продукта HR Tech.

Investigative Angle	Intransparency Finding
Functionality	Murky descriptions of AI, vague language and conflating terms make product and AI functionality hard to comprehend.
Claims	Unclear connections between functionality and claims leads to transparency issues
Assumptions	AI is assumed to function in various ways, which can create transparency issues
AI Clarity	When descriptions of product functionality, claims, or underlying assumptions are vague, AI is also described in intransparent ways.

⟦Table 5. Таблица, описывающая наши выводы о том, как проявляется непрозрачность.††:

Мы обосновали это исследование социальной практикой найма, привлекая практиков для понимания напряжений между материалами, компетенциями и смыслами их профессиональных практик и продуктами HR Tech, которые они использовали. Наше понимание процесса найма позволило нам увидеть нюансы между функциональностью продукта и заявленными характеристиками продукта, поскольку практики неоднократно отмечали несоответствия в этом отношении. Это понимание также помогло нам оценить лежащие в основе этих продуктов допущения: мы обнаружили, что во многих продуктах допущения часто возлагают ответственность за смещение на рекрутеров, а не на недостатки технологий или дизайна. В целом наши результаты выявляют сохраняющиеся сложности для рекрутеров из-за непрозрачных систем ИИ. Разместив себя внутри социальной практики найма, мы смогли сформулировать и создать инструмент для контекстной прозрачности ИИ.

В отличие от предыдущих баз данных прозрачности, сосредоточенных на сбоях или вредоносных инцидентах (McGregor, 2021; Walker et al., 2024), наш подход предлагает сквозной взгляд на ИИ в найме как средство формирования социальной и разработческой осведомленности. Наш подход является новым тем, что он позволяет получить сквозной взгляд на ИИ, применяемый в конкретной профессиональной практике — найме — в более широком поле HRM. Анализируя функциональность продукта, заявления, лежащие в их основе допущения и ясность ИИ, мы можем предоставить практикам удобный инструмент для построения знаний и придания смысла в их программно-техническом стеке для HR Tech. А для исследователей мы можем показать тревожный паттерн, который наблюдали в ИИ-вмешательствах в технологических продуктах: что ИИ в прозрачности — это не просто технический «черный ящик», а набор решений, связанных с языком и допущениями о людях.

Метод, который мы использовали для построения Индекса TARAI, позволил нам изучить прозрачность в сфере HR Tech, а наше исследование того, что эти продукты говорят о себе, выявило сохраняющиеся проблемы непрозрачности в сфере HR Tech. В каждой из четырех основных областей, которые мы изучали: функциональность, заявления, предположения и ясность в отношении ИИ — мы обнаружили бесчисленное множество моментов, когда маркетинговые материалы не отражали точно то, как работает продукт, заявляли вещи, которые невозможно подтвердить с помощью существующих маркетинговых текстов, и были неясны относительно того, какие данные использовались для обучения его ИИ или как именно функционировал этот ИИ. Таблица 5 отражает наши наблюдения, суммированные. Многие продукты HR Tech блокируют полную документацию по функциональности и другую информацию об их ИИ за счет связей с отделом продаж для демонстраций или путем предоставления адреса электронной почты либо номера телефона. Для продуктов HR Tech, которые действительно предоставляли такую информацию, она часто была спрятана в положениях о конфиденциальности или находилась с большим трудом. Мы призываем разработчиков обратить внимание на то, что ограждение информации о продукте, которое могло бы привести к большей прозрачности в отношении ИИ со стороны маркетинговых команд, является нормой, а не исключением. Мы просим разработчиков задуматься о том, что выигрывается от размещения важной информации о продукте, такой как полный перечень функциональных возможностей, подтверждающих маркетинговые заявления, за стенами, управляемыми привратниками, которые хотят продать продукт, и которые могут быть готовы говорить лишь с людьми, обладающими покупательной способностью в организации. Контекстная прозрачность в отношении ИИ в HR Tech требует сведений о продукте, которые доступны открыто, а не ограждены привратничеством в виде разговоров.

Мы приветствуем и поощряем будущие исследования, которые изучают этот подход к созданию контекстной прозрачности ИИ в различных профессиональных практиках. Например, с появлением диагностического ИИ на рынке от разработчиков, таких как Epic (Team, 2025), для использования в больницах, понимание того, как эти инструменты были созданы и на каких предпосылках они были построены, имеет жизненно важное значение. Другие приложения могут быть расширены на правовые или творческие сферы. Мы считаем, что этот метод позволяет делать более разносторонние наблюдения в рамках конкретной области и может функционировать почти как проверка состояния интегрированного ИИ.

В этой статье мы описали ориентированную на практиков технологическую базу данных, предназначенную для решения вопросов интеграции ИИ в HR Tech. Мы изучили функциональность продуктов HR Tech, утверждения, допущения и ясность в базе данных посредством итеративного проектирования. Многократные оценки показали, что непрозрачность ИИ является как технической, так и социальной проблемой. Наши вклад включает эти выводы, относящиеся конкретно к HR Tech, и новый подход к контекстной прозрачности ИИ. Мы надеемся, что этот метод получит распространение при создании подобных баз данных контекстной прозрачности ИИ для других профессий.

Appendix A Приложение A: Методы оценки и таблицы участников

Persona	Persona Details
Alex the AI Auditor	$\bullet$ Clarity on specific functionality of AI models, including clear information on training data and data used in operation. $\bullet$ Archive of existing audits that have taken place on this technology. $\bullet$ Up-to-date list of applicable local, state, and federal AI regulations that may apply to this product.
Reese the Recruiter	$\bullet$ Clear statements of what this product does, and existing integrations with other technologies such as Human Resources Management Suites or Applicant Tracking Systems. $\bullet$ Ease of Use.
Peyton the HR Procurement Professional	$\bullet$ Up-to-date list of applicable local, state, and federal AI Regulations that may apply to this product for internal risk assessment. $\bullet$ Clear statements of what this product does, and existing integrations with other technologies such as Human Resources Management Suites or Applicant Tracking Systems.

⟦Table 6. Семинар 1 Персоны††:

P#	Workshop Session	Participant & Job Role
PW1-1 (P76)	1	PW1-1. Senior Technical Recruiter
PW2-1 PW2-2 PW2-3 PW2-4	2	PW2-1. Managing Director PW2-2. Senior Campus Recruiter PW2-3. Recruitment Manager PW2-4. Talent Acquisition Recruiter
PW3-1	3	PW3-1. Technology Developer
PW4-1	4	PW4-1. HR Influencer
PW5-1	5	PW5-1. Chief Risk & Compliance Officer

⟦Table 7. Роли должностей участников для практических семинаров.††:

P#	Job Role	Age	Reported Gender
W3-1	[Anonymized HRIS] Operations Manager	62	Woman
W3-2	HR Director	54	Man
W3-3	Early Careers Leader	53	Woman
W3-4	Human Resources Director	55	Woman
W3-5	VP Human Resources	55	Woman

⟦Table 8. Должности участников для интервью с старшими специалистами по персоналу в семинаре 3.††: