Нейросеть отказала в работе: как алгоритм может дискриминировать соискателя

Алгоритм действительно может отсеивать кандидатов по возрасту, месту проживания или продолжительности стажа, если такие параметры заложены при настройке системы. Машина работает по заданным критериям и, в отличие от человека, не умеет оценивать контекст. Например, кандидат может не дотягивать до требуемого опыта всего пару месяцев, но полностью соответствовать вакансии по навыкам. Для HR-специалиста это будет несущественно, а алгоритм просто не включит кандидата в список для дальнейшего рассмотрения. Поэтому важен не только уровень системы, но и то, кто и как ее настроил.

При этом автоматизация не отменяет требований закона. Статья 64 Трудового кодекса РФ запрещает необоснованный отказ в заключении трудового договора, а также дискриминацию по обстоятельствам, не связанным с деловыми качествами кандидата. Возраст и место жительства прямо названы в числе таких обстоятельств. Если соискатель письменно запросит причину отказа, работодатель обязан сообщить ее в течение семи рабочих дней. На практике такие случаи встречаются, и их важно фиксировать: это дает возможность оспорить отказ и защитить свои права. Но нет никаких гарантий, что ответ будет честным. Чаще всего HR-специалисты используют обтекаемые формулировки — например, несоответствие софт-скиллов или нерелевантный опыт, — и оспорить их практически невозможно.

Приведу пример российской судебной практики по дискриминации при найме. В обзоре Верховного суда описано дело, где признали незаконным отказ в приеме на работу женщине из-за беременности. Встречаются и дела о компенсации за то, что работодатель не дал письменный ответ о причинах отказа. Но доказать дискриминацию непросто: по стандартному уведомлению не понятно, какие критерии сработали внутри системы (хоть автоматизированной, хоть у HR-специалиста). Поэтому сохраняйте переписку, описание вакансии и другие материалы, которые могут подтвердить причину отказа. Если есть основания считать права нарушенными, можно обратиться в трудовую инспекцию или суд.

На мой взгляд, для решения проблемы важно не только постфактум наказывать за дискриминацию, но и изначально не давать возможности отбирать кандидатов по признакам, которые не характеризуют их профессиональные качества. Например, на многих платформах по подбору персонала, включая одну из самых популярных в России, есть фильтр по полу. У нас в WinWork выбрать исполнителя по полу нельзя. Это наш осознанный принцип: при выборе работника нужно смотреть на его квалификацию, компетентность и способность выполнить задачу, а не на пол, национальность, цвет волос, знак зодиака или подобные характеристики. Мы стремимся к прозрачности в отношениях между заказчиком и исполнителем.

Правила для алгоритма задают люди. Поэтому при создании систем автоматизированного найма важно сразу заложить ограничения, которые не дадут отсеивать по нерелевантным признакам в целом подходящих соискателей. Это эффективнее, чем бороться с дискриминацией постфактум, когда кандидат уже получил отказ.

Я лично работаю с основателями бизнеса: учу их работать с ИИ и вместе с ними пересобираю процессы компании, в том числе найм. Недавно разбирал систему небольшого рекрутингового агентства: агент сам ищет резюме на сайтах вакансий, в LinkedIn и в чатах и сводит кандидатов в воронку. Работает отлично, но первый вопрос в таких случаях всегда один: какие правила отбора записаны в инструкции агента и кто их проверяет.

Может ли алгоритм отсеивать по возрасту, перерыву в стаже или месту жительства? Может, если ему это прямо написали. Или если дали задачу «найди похожих на тех, кого мы нанимали раньше»: тогда он повторит прошлые предпочтения рекрутеров. Отвечает тот, кто задал логику отбора, написал системный промпт и проверяет результат, а перед кандидатом — компания-работодатель. Если отказ ушёл без участия человека, претензии адресуются компании так же, как раньше.

Объяснять причину работодатель обязан. По статье 64 Трудового кодекса кандидат может письменно потребовать причину отказа, и компания должна ответить письменно в течение семи рабочих дней, неважно, кто готовил решение. Закон о персональных данных (статья 16 152-ФЗ) к тому же запрещает принимать решения, затрагивающие права человека, исключительно на основе автоматизированной обработки, если нет его письменного согласия. Фраза «так решила нейросеть» — не аргумент ни для инспекции, ни для суда. Кандидату я бы советовал запросить причину письменно и сохранить вакансию, своё резюме и время отказа: ответ через пару минут после отклика ночью хорошо показывает, что решал алгоритм. Публичных российских дел, где спорили именно о нейросети, я не встречал; споры о дискриминации при найме есть, и логика там будет та же.

Как защититься компании. Нейросеть может работать полностью автономно, а может в промежуточном режиме, когда человек проверяет её решения. Любая задача, переданная ИИ, сначала должна проходить много циклов проверки и коррекции, пока результат стабильно не станет таким, какой нужен компании. Только после этого можно дать больше автономии и проверять реже, например раз в неделю просматривать отказы и править принципы. Хороший ИИ от плохого отличают принципы, которые в него заложили, причём не на уровне кода, а на уровне простой человекочитаемой инструкции: какие критерии запрещены, что нужно объяснять по каждому кандидату и какие отказы без визы человека не отправляются.

С ИИ менеджер по персоналу может значительно больше: разобрать тысячу откликов за вечер вместо десятков. Но решает и отвечает по-прежнему человек.

Мы считаем, что вокруг поиска работы искусственно надут финансовый пузырь. Тем более что ситуация сейчас странная: с одной стороны - кадровый голод, с другой - по многим отраслям масса соискателей, которые хотят туда попасть, но их не берут из-за отсутствия профессиональных навыков. Получается, что предложений и желающих вроде бы избыток, и кадров при этом не хватает, - а проблема не решается. Искусственный интеллект создал фактически новый сервис - обвязку, платформу, - и, чтобы пройти отбор, соискатель должен был платить деньги.

Это тоже модель ведения бизнеса, мы её понимаем. Деньги там были небольшие, и тем, кто к нам обращался, мы даже советовали воспользоваться этим искусственным интеллектом. Правда, насколько полезным оказался совет, мы не знаем.

Главное, в чём мы пытались разобраться, - критерии, заложенные в ИИ для первичного отсеивания, непонятны. А когда он же составляет резюме соискателя и оптимизирует его под собственный отбор, упор делается на те аспекты, которые кандидат обязан отразить - и именно так, как нужно, - чтобы пройти этот отбор. Мы неоднократно говорили о пагубности всей российской школы работы с кадрами, и это нововведение ничего хорошего в картину не внесло. Работодатель с эйчарами по-прежнему относится к людям как к расходному ресурсу, от которого надо побольше получить и поменьше на него потратить. Отсюда и парадокс с кадровым голодом и большом числом желающих трудоустроиться. При этом никто фактически не занимается подготовкой кадров, их профкачествами, не вкладывает деньги в то, чтобы создать у себя профессиональный коллектив - высокопроизводительный и высокоэффективный. Это следствие психотипа нашего эйчара и работодателя. Теперь к этому добавился ещё и барьер из искусственного интеллекта: чтобы его пройти, надо заплатить денежку и с помощью того же ИИ составить себе резюме.

По нашему опыту сотрудничества с HeadHunter - мы его не инспектировали, но наблюдали, как там устроен отбор, - раньше работодатель лишь в редких случаях сообщал, из-за чего кандидат не прошёл. Изучив картину, мы установили, почему у наших эйчаров в большинстве случаев не проходят люди, особенно с высокими профессиональными компетенциями. Профессионал требует адекватной оплаты своего труда, хорошо знает свои права и неплохо ориентируется в Трудовом кодексе - и это пугает эйчаров больше всего. Есть компетенции: прошёл такой-то курс, обучился тому, обучился этому. Есть достижения: на предыдущей работе достиг такого-то результата, организовал то-то, удалось сделать это. Когда в резюме фигурировали достижения, такому человеку - при том, что по навыкам он был профессионалом высокого уровня, - у нашего работодателя было очень тяжело найти работу. Потому что с подобным специалистом надо считаться, договариваться, проводить определённую политику при управлении производством. Учитывать, что у тебя на производстве высококвалифицированный профессионал, но с запросами. А наш работодатель склонен до сих пор работать с теми, у кого поменьше запросов, поменьше знаний - особенно о своих правах. И, к сожалению, у нас почему-то считается, что такие работодатели - самые ловкие и эффективные организаторы производства, и под стать себе они выбирают таких же эйчаров.

Качественно изменила картину платформенная занятость. Она тоже построена во многом на базе искусственного интеллекта. Платформы соединили напрямую исполнителя с заказчиком. Здесь заказчика интересует прежде всего качественное исполнение заказа. Нет таких заказчиков, которые хотели бы получить заказ в стиле «и так сойдёт», при этом заплатив какие-то маленькие деньги. Да, ищут, конечно, оптимальные решения, ищут варианты подешевле.
Но в классической экономике, помимо исполнителя заказа, ещё надо «кормить» работодателя, его секретаря, содержать офис, целый штат сотрудников - и на всё это уходит себестоимость продукта или услуги. При работе с исполнителем через платформу надо платить всего лишь дополнительную комиссию платформе. И это на поверку оказывается эффективнее, надёжнее и дешевле. В результате мы видим расцвет платформенной экономики в стране. Многие профессионалы сбежали от наших токсичных работодателей и их ещё более токсичных эйчаров в эту самую платформенную экономику. Классика - наша стройка: все профессиональные бригады сидят на платформах, принимают заказы на конечный результат, и никто последнее время не стремится работать с девелоперами и строительными компаниями, где работников постоянно пытаются «подвинуть» в правах и в вознаграждении.

Мы как профсоюз настаиваем на полной цифровизации всех отношений - трудовых, по ГПХ и платформенных. Раньше было мало работы и много работников, и сложилась парадигма, что работодатель всегда прав. В Европе совершенно другая картина. Профессиональный работник в той же Дании хорошо защищён - лишившись одной работы, он сразу находит другую. Там специалист по работе с людскими ресурсами с каждым работником, обладающим высокими профессиональными качествами и высокой производительностью, возится в буквальном смысле. И такой человек абсолютно не волнуется, что останется без работы. С другой стороны, мы знаем датское качество производства - те же холодильники, техника надёжны и работают годами, если не десятилетиями. Вот это как раз то самое. Поэтому искусственный интеллект, безусловно, принёс новые качества в нашу жизнь в свете платформизации и цифровизации. Но в рамках работы в старой системе - со старыми работодателями и эйчарами - он создал только ещё больше дополнительных препятствий для того, чтобы найти работу, и ещё больше мотивации искать работу и заработок в платформенной экономике, а не идти в трудовые отношения. К сожалению, пока у нас не урегулировано формирование основных социальных благ для платформенного работника, особенно находящегося в режиме самозанятости: нет отчислений на пенсию, на социальные выплаты в случае больничного или декрета, другие социальные гарантии.