Последние новости:

Все статьи Трудовые отношения Трудовое право. Общие положения Алгоритмический менеджмент в трудовых отношениях: правовые риски и векторы развития законодательства (Крылов И.В.)

Стремительное развитие технологий искусственного интеллекта и активное их внедрение в хозяйственную деятельность современного работодателя порождают качественные изменения в сфере труда <1>. К данным изменениям относится появление таких форм взаимодействия сторон трудового договора, при которых функцию по управлению и контролю в отношении работника полностью или частично осуществляет не человек (представитель работодателя), а алгоритм. Таким образом, возникает явление, которое можно обозначить термином "алгоритмический менеджмент".
--------------------------------
<1> См.: Филипова И.А. Влияние цифровых технологий на труд: ориентиры для трудового права: Монография. Нижний Новгород: Нижегородский госуниверситет им. Н.И. Лобачевского, 2021.

В качестве примера алгоритмического менеджмента можно привести цифровые платформы для водителей такси по типу Uber или "Яндекс.Go". Алгоритм цифровой платформы обеспечивает все аспекты выполнения водителем такси своих обязанностей <2>: находит клиентов, анализирует множество показателей и самостоятельно устанавливает цену за поездку, проводит оплату, подбирает оптимальный маршрут движения транспортного средства, оценивает водителя через систему рейтинга.
--------------------------------
<2> См.: Шевчук А.В., Чижова Д.А., Демина Д.Е., Чугункова В.А. Труд водителей такси в условиях алгоритмического управления // Мониторинг общественного мнения: экономические и социальные перемены. 2021. N 3; Лютов Н.Л., Войтковская И.В. Водители такси, выполняющие работу через онлайн-платформы: каковы правовые последствия "уберизации" труда? // Актуальные проблемы российского права. 2020. N 6(115).

Помимо форм управления трудовой деятельностью меняются и методы подбора персонала. На смену традиционным процедурам (собеседованию, тестированию) приходят и находят широкое распространение инновационные методы, которые предусматривают в том числе и применение технологий искусственного интеллекта <3>. Современный работодатель стремится не только оценить соответствие профессионально-квалификационных и личностных качеств кандидата предъявляемым требованиям, но и спрогнозировать поведение кандидата при выполнении трудовой функции, для чего использует специальное программное обеспечение, основанное на машинном обучении и интеллектуальном анализе данных <4>.
--------------------------------
<3> См.: Зорина О.О. Подбор персонала: цифровизация и правовые риски // Право и экономика. 2018. N 8.
<4> См. пример: URL: https://clck.ru/JZmeS (дата обращения: 29.05.2023).

В целом, в соответствии с динамикой трудового правоотношения, по общему правилу возникновение которого связано с заключением трудового договора, а прекращение - с расторжением трудового договора, алгоритмический менеджмент может применяться работодателем на следующих этапах существования трудового правоотношения:
- заключение трудового договора: работодатель применяет алгоритмы, реализуя право на принятие необходимых кадровых решений по подбору персонала;
- действие трудового договора: работодатель применяет алгоритмы, реализуя право на контроль за выполнением работниками трудовой функции и соблюдением работниками правил внутреннего трудового распорядка;
- расторжение трудового договора: работодатель применяет алгоритмы, реализуя право на расторжение трудового договора в предусмотренном законах случаях.
Как показала практика, применение работодателем инновационных технологических решений для управления персоналом порождает риск негативного воздействия на права и законные интересы работника (соискателя). В частности, внедрение алгоритмов в сферу труда может привести к нарушению как минимум следующих положений Трудового кодекса Российской Федерации (далее - ТК РФ) <5>:
- принцип обеспечения права каждого работника на справедливые условия труда, в том числе на условия труда, отвечающие требованиям безопасности и гигиены - чрезмерный контроль за работником на производстве, равно как и чрезмерная автоматизация производственных процессов приводят к повышению уровня травматизма среди работников, а также к возникновению у работников психологических проблем <6>;
- принцип запрещения дискриминации в сфере труда - алгоритм, прогнозирующий поведение кандидата, может быть обучен на некачественных данных <7>, вследствие чего будет подвергать дискриминации лиц, относящихся к определенным социальным категориям <8>;
- запрет на принятие решений, затрагивающих интересы работника, на основе персональных данных, полученных в результате их автоматизированной обработки (ч. 6 ст. 86 ТК РФ).
--------------------------------
<5> Трудовой кодекс Российской Федерации от 30 декабря 2001 г. N 197-ФЗ (в ред. от 19.12.2022 N 545-ФЗ) // СЗ РФ. 2002. N 1 (ч. 1). Ст. 3; СЗ РФ. 2022. N 52. Ст. 9375.
<6> См.: URL: clck.ru/ek6Ng (дата обращения: 29.05.2023).
<7> Под некачественным данными, как правило, понимаются неполные, неточные или нерелевантные данные, которые используются при обучении системы искусственного интеллекта. См.: Barocas S., Selbst A.D. Big Data's disparate impact // California Law Review. 2016.
<8> См.: Савельев А.И. Научно-практический постатейный комментарий к Федеральному закону "О персональных данных". М.: Статут, 2017.

Отсутствие прозрачности процессов автоматизированного принятия решений в совокупности с текущей моделью распределения бремени доказывания фактически лишают работника (соискателя) возможности эффективной правовой защиты нарушенных прав и законных интересов.
В частности, согласно ст. 56 Гражданского процессуального кодекса Российской Федерации <9> каждое лицо обязано доказать те обстоятельства, на которые она ссылается как на основания своих требований и возражений. Таким образом, именно работник (соискатель) обязан доказать, что необоснованное кадровое решение было принято в исключительно автоматизированном порядке <10>. Однако работник может не обладать информацией о том, как именно в отношении его работодатель принял спорное решение - исключительно в автоматизированном порядке или в процессе участвовал человек, а не только алгоритм.
--------------------------------
<9> Гражданский процессуальный кодекс Российской Федерации от 14 ноября 2002 г. N 138-ФЗ (с изм. и доп. от 01.02.2022 N 234-ФЗ) // СЗ РФ. 2002. N 46. Ст. 4532; 2021. N 27 (ч. I). Ст. 5062.
<10> См.: судебные дела, связанные с отменой автоматизированных решений в отношении водителей Uber в Нидерландах. URL: clck.ru/34MzCL; clck.ru/34MzBQ (дата обращения: 30.05.2023). На момент вынесения решений водители Uber имели статус самозанятых лиц, однако через несколько месяцев в рамках другого дела данный суд признал водителей Uber работниками, а не самозанятыми. См.: URL: clck.ru/34Y3GY (дата обращения: 28.05.2023).

Проблема с обоснованием принятого решения может возникнуть и на стороне работодателя. В частности, алгоритмы систем искусственного интеллекта крайне сложны для интерпретации <11>. Зачастую даже сами разработчики не до конца понимают, как искусственный интеллект функционирует <12>. В связи с этим полностью восстановить ход и причины принятия алгоритмом конкретного решения очень сложно, а в некоторых случаях и невозможно.
--------------------------------
<11> Согласно Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 г. (утв. распоряжением Правительства РФ от 19.08.2020 N 2129-р) к основным проблемам регулирования технологий искусственного интеллекта относится проблема алгоритмической прозрачности систем искусственного интеллекта - т.е. невозможность в ряде случаев полного объяснения причин, по которым система искусственного интеллекта приняла конкретное решение.
<12> См.: URL: clck.ru/34Ykru (дата обращения: 29.05.2023).

Таким образом, применение инновационных технологических решений на основе машинного обучения сопряжено с так называемой проблемой алгоритмической прозрачности, или проблемой "черного ящика" <13>.
--------------------------------
<13> См.: Pasquale F. The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press, 2015; Algorithms and human rights - Study on the human rights dimensions of automated data processing techniques and possible regulatory implications (2018). URL: https://edoc.coe.int/en/internet/7589-algorithms-and-human-rights-study-on-the-human-rights-dimensions-of-automated-data-processing-techniques-and-possible-regulatory-implications.html# (дата обращения: 29.05.2023).

С учетом обозначенных обстоятельств, потенциальных рисков нарушения прав и законных интересов работника, а также планов государства стимулировать повсеместное внедрение технологий искусственного интеллекта в Российской Федерации <14>, видим необходимость в совершенствовании действующего законодательства для обеспечения разумного баланса интересов работника, работодателя, государства и общества в условиях цифровой экономики.
--------------------------------
<14> См.: п. 5 Перечня поручений Президента РФ по итогам конференции "Путешествие в мир искусственного интеллекта". URL: clck.ru/33QuY6 (дата обращения: 29.05.2023).

Так, проблема алгоритмической прозрачности может быть решена за счет изменения положений гл. 14 ТК РФ "Защита персональных данных работника". Полагаем, работодатель, применяющий алгоритмы для управления персоналом, должен раскрывать работнику ключевую информацию об алгоритмическом менеджменте. К такой информации можно отнести как сам факт применения работодателем алгоритмов в процессе принятия решений, так и конкретные причины и данные, послужившие основанием для принятия в отношении работника того или иного решения. Подобные требования содержатся в зарубежном опыте, например Общем регламенте по защите данных (GDPR) <15>.
--------------------------------
<15> Регламент Европейского Парламента и Совета Европейского союза 2016/679 от 27 апреля 2016 г. о защите физических лиц при обработке персональных данных и о свободном обращении таких данных, а также об отмене Директивы 95/46/ЕС // СПС "Гарант".

Наряду с совершенствованием регулирования в области персональных данных необходимо разрабатывать законодательство об искусственном интеллекте. Полагаем, целесообразно разработать комплексный закон, регулирующий общественные отношения, которые возникают в связи с разработкой, тестированием, эксплуатацией систем искусственного интеллекта <16>.
--------------------------------
<16> Национальная стратегия развития искусственного интеллекта на период до 2030 г. (утв. Указом Президента РФ от 10 октября 2019 г. N 490) предусматривает создание в Российской Федерации комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта. По пути принятия комплексного нормативного правового акта последовал Европейский союз, где разработан проект Регламента об установлении на территории Европейского союза единых правил в отношении искусственного интеллекта. URL: clck.ru/349gqF (дата обращения: 29.05.2023).

Данный закон может быть основан на риск-ориентированном подходе и предусматривать требования и обязанности в зависимости от группы риска, к которой относится система искусственного интеллекта. Группа риска определяется степенью потенциального негативного воздействия систем искусственного интеллекта на права и свободы граждан. С учетом описанных выше обстоятельств системы искусственного интеллекта, которые применяются в сфере труда, целесообразно отнести к группе высокого риска.
Лица, осуществляющие разработку, тестирование и эксплуатацию таких систем, должны быть наделены определенными обязанностями (например, обязанностью информировать пользователей о том, что с ними взаимодействует система искусственного интеллекта, раскрывать информацию о ключевых особенностях функционирования систем искусственного интеллекта, предоставить возможность обжалования решений, принятых исключительно в автоматизированном порядке, и проч.).
Для формирования конкретного набора обязанностей целесообразно проводить общественные консультации <17>, правовые эксперименты <18>, учитывать накопленный опыт применения мягкого права (Кодекса этики в сфере искусственного интеллекта, принятого в 2021 г. <19>), результаты научных исследований, а также положения утвержденных документов стратегического планирования по вопросам развития в Российской Федерации цифровой экономики и искусственного интеллекта (включая Национальную стратегию развития искусственного интеллекта на период до 2030 г., Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г. <20>). Таким образом, решение проблем, сопряженных с внедрением искусственного интеллекта в сферу труда, должно иметь комплексный характер.
--------------------------------
<17> Эффективность данной процедуры подтверждена опытом Европейского союза по разработке Регламента об установлении на территории Европейского союза единых правил в отношении искусственного интеллекта.
<18> Законодатель уже имеет положительный опыт применения данного метода для целей адаптации трудового законодательства к условиям цифровой экономики. В частности, по результатам эксперимента по использованию электронных документов, связанных с работой, ТК РФ был дополнен ст. 22.1 - 22.3 об электронном документообороте в сфере трудовых отношений.
<19> Кодекс этики в сфере искусственного интеллекта (от 26 октября 2021 г.). URL: https://base.garant.ru/406862712/.
<20> СПС "Гарант".

Литература

1. Зорина О.О. Подбор персонала: цифровизация и правовые риски / О.О. Зорина // Право и экономика. 2018. N 8(366). С. 43 - 48.
2. Лютов Н.Л. Водители такси, выполняющие работу через онлайн-платформы: каковы правовые последствия "уберизации" труда? / Н.Л. Лютов, И.В. Войтковская // Актуальные проблемы российского права. 2020. Т. 15. N 6(115). С. 149 - 159.
3. Савельев А.И. Научно-практический постатейный комментарий к Федеральному закону "О персональных данных" / А.И. Савельев. Москва: Статут, 2017. 317 с.
4. Филипова И.А. Влияние цифровых технологий на труд: ориентиры для трудового права: Монография / И.А. Филипова. Нижний Новгород: Нижегородский госуниверситет им. Н.И. Лобачевского, 2021. 106 с.
5. Шевчук А.В. Труд водителей такси в условиях алгоритмического управления / А.В. Шевчук, Д.А. Чижова, Д.Е. Демина, В.А. Чугункова // Мониторинг общественного мнения: экономические и социальные перемены. 2021. N 3(163). С. 356 - 381.

References

1. Pasquale F. The Black Box Society: The Secret Algorithms That Control Money and Information / F. Pasquale. Harvard University Press, 2015. 320 p.

Вернуться на предыдущую страницу