Подача заявления на работу сама по себе уже удручает. Но всё чаще соискатели задаются вопросом: не отсеивает ли их система искусственного интеллекта ещё до того, как их резюме увидит живой человек.
Новый судебный иск призван изменить ситуацию, требуя большей прозрачности в работе инструментов ИИ для найма персонала. Истцы утверждают, что автоматизированные «баллы» соискателей должны юридически приравниваться к кредитным проверкам и подпадать под те же законы о защите прав потребителей.
Предполагаемый коллективный иск был подан в среду в суд штата Калифорния двумя женщинами, работающими в сфере STEM, которые утверждают, что системы ИИ для первичного отбора отсеяли их от вакансий, на которые они имели квалификацию.
«Я подала заявки на сотни вакансий, но такое ощущение, что невидимая сила мешает мне пройти справедливую оценку», — заявила одна из истиц, Эрин Кистлер, в пресс-релизе. «Это деморализует, и я знаю, что не одинока в этих ощущениях».
И она права, говоря, что не единственная так себя чувствует, особенно в то время, когда всё больше компаний полагаются на ИИ в процессе найма. По данным Всемирного экономического форума, около 88% компаний в настоящее время используют ту или иную форму ИИ для первичного отбора кандидатов.
Иск конкретно нацелен на компанию Eightfold — разработчика ИИ-решений для HR, который продаёт инструменты, помогающие работодателям управлять рекрутингом и наймом. Среди их предложений есть инструмент, который генерирует числовой балл, предсказывающий вероятность того, что кандидат подходит для конкретной должности.
Эта система выставления оценок лежит в основе дела. «Балл соответствия» (match score) от Eightfold генерируется на основе информации, собранной из различных источников, включая описания вакансий, требуемые навыки, поданные заявки и, в некоторых случаях, данные из LinkedIn. Затем модель выдаёт оценку от нуля до пяти, которая «помогает предсказать степень соответствия кандидата и вакантной позиции».
В иске утверждается, что этот процесс фактически создаёт «потребительский отчёт» в соответствии с Законом о добросовестной кредитной отчётности (FCRA) — федеральным законом, принятым в 1970 году для регулирования кредитных бюро и компаний, занимающихся проверкой биографических данных. Поскольку балл агрегирует личную информацию и преобразует её в рейтинг, используемый для определения пригодности «в целях трудоустройства», иск утверждает, что Eightfold должна соблюдать те же правила, что и агентства по кредитной отчётности.
Эти правила включают уведомление заявителей о создании такого отчёта, получение их согласия и предоставление им возможности оспорить любую неточную информацию.
«Eightfold считает эти обвинения необоснованными. Платформа Eightfold работает на данных, которые кандидаты предоставляют намеренно, или которые передают наши клиенты», — заявил представитель Eightfold в электронном заявлении для Gizmodo. «Мы не занимаемся сбором данных из социальных сетей и тому подобного. Мы твёрдо привержены ответственному ИИ, прозрачности и соблюдению применимых законов о защите данных и трудовом законодательстве».
Тем не менее, иск требует судебного предписания, обязывающего Eightfold соблюдать законы о потребительской отчётности штата и федеральные законы, а также выплаты компенсации за причинённый ущерб.
«Квалифицированным работникам по всей стране отказывают в возможностях трудоустройства на основании автоматизированных оценок, которые они никогда не видели и не могут исправить», — заявила Дженни Р. Янг, юрист по этому делу и бывший председатель Комиссии по обеспечению равных возможностей при трудоустройстве США. «Это те реальные проблемы, которые Конгресс стремился предотвратить, приняв FCRA. По мере развития инструментов найма, такие компании, как Eightfold, должны соблюдать эти здравые правовые гарантии, призванные защитить обычных американцев».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bruce Gil
