16 lipca Prezes Urzędu Ochrony Danych Osobowych Mirosław Wróblewski skierował do Ministerstwa Rodziny, Pracy i Polityki Społecznej wniosek o podjęcie prac legislacyjnych, które zapewnią kandydatom do pracy oraz pracownikom dodatkową ochronę przed dyskryminacją wynikającą ze stosowania systemów sztucznej inteligencji w procesach rekrutacyjnych i zatrudnieniu.

Prezes UODO wskazał, że do urzędu trafia coraz więcej sygnałów o wykorzystywaniu przez pracodawców narzędzi AI do masowej analizy aplikacji kandydatów – w tym niekiedy także danych należących do szczególnych kategorii. Zwrócił uwagę, że algorytmy trenowane na historycznych danych mają tendencję do utrwalania obecnych w nich uprzedzeń, a jednocześnie mogą analizować znacznie więcej informacji o kandydacie, niż przewiduje katalog danych określony w art. 22¹ Kodeksu pracy, którego pracodawca może żądać na etapie rekrutacji.

1. Prawo do niepodlegania decyzji zautomatyzowanej (art. 22 RODO). Kandydat ma prawo, by decyzja wywołująca wobec niego skutki prawne nie była podejmowana wyłącznie na podstawie automatycznego przetwarzania danych, w tym profilowania. RODO dopuszcza wyjątek od tej zasady na podstawie prawa krajowego – ale tylko wtedy, gdy przepisy te zapewniają odpowiednie środki ochrony praw i wolności osoby, której dane dotyczą. Bez takich gwarancji stosowanie AI do automatycznej selekcji kandydatów pozostaje prawnie ryzykowne.

2. Minimalizacja danych i podstawa prawna przetwarzania. Narzędzia AI potrafią analizować dane wykraczające poza zakres, jakiego pracodawca może zgodnie z prawem żądać od kandydata. Przetwarzanie nadmiarowych informacji – w tym danych szczególnych kategorii – bez wyraźnej podstawy prawnej narusza zarówno zasadę minimalizacji danych (art. 5 ust. 1 lit. c RODO), jak i art. 9 RODO dotyczący danych wrażliwych.

3. Obowiązek oceny skutków dla ochrony danych (art. 35 RODO). Zdaniem Prezesa UODO, zanim dopuści się stosowanie systemów AI w zatrudnieniu, konieczne jest przeprowadzenie oceny skutków dla ochrony danych (DPIA). Pozwala ona zidentyfikować ryzyka dla osób, których dane dotyczą, i wykazać zgodność przetwarzania z RODO.

4. RODO i unijny Akt o sztucznej inteligencji działają równolegle. Narzędzia AI stosowane w rekrutacji zostały zaklasyfikowane w Akcie o sztucznej inteligencji jako systemy wysokiego ryzyka. Wymagana przez ten akt ocena skutków dla praw podstawowych (art. 27 AI Act) – w tym prawa do prywatności – ma jedynie uzupełniać DPIA, a nie ją zastępować. Obie oceny muszą funkcjonować obok siebie.

5. Transparentność wobec kandydata. Osoba, wobec której AI wysokiego ryzyka wywarła istotny wpływ na decyzję, ma prawo uzyskać jasne wyjaśnienie roli systemu w procesie decyzyjnym oraz głównych elementów podjętej decyzji. Kandydat musi też wiedzieć, że w rekrutacji uczestniczy system sztucznej inteligencji.

1. Sama zgoda na udział w rekrutacji nie legalizuje profilowania przez AI. Do automatycznego podejmowania decyzji wobec kandydata potrzebna jest odrębna, jasna podstawa prawna spełniająca wymogi art. 22 RODO.

2. DPIA to punkt wyjścia, nie formalność do odhaczenia. Ocena skutków dla ochrony danych powinna poprzedzać wdrożenie każdego narzędzia AI wykorzystywanego do oceny kandydatów.

3. Zakres analizowanych danych musi być uzasadniony. Narzędzie AI nie może przetwarzać danych wykraczających poza to, co jest niezbędne do oceny kwalifikacji kandydata na dane stanowisko.

4. Kandydat musi mieć możliwość zrozumienia, dlaczego system AI ocenił go w określony sposób.

• Sprawdź, czy AI w rekrutacji pełni wyłącznie funkcję wspierającą, a ostateczną decyzję zawsze podejmuje człowiek.

• Przeprowadź ocenę skutków dla ochrony danych (DPIA) przed wdrożeniem lub dalszym wykorzystywaniem narzędzia AI w rekrutacji.

• Zweryfikuj podstawę prawną i zakres danych przetwarzanych przez narzędzie – w tym, czy nie obejmuje danych szczególnych kategorii bez wyraźnej podstawy.

• Przygotuj przystępne wyjaśnienie dla kandydatów, w jaki sposób i na jakiej podstawie AI wpływa na decyzje rekrutacyjne.

• Ustal, kto pełni rolę administratora danych w relacji z dostawcą narzędzia AI, i udokumentuj tę analizę.

• Śledź prace legislacyjne nad regulacją AI w zatrudnieniu, aby na bieżąco dostosowywać swoje procedury.

Jeśli potrzebują Państwo uzyskać więcej informacji w zakresie prawa pracy oraz ochrony lub przetwarzania danych osobowych – zapraszamy do kontaktu z naszą Kancelarią.