Kto naprawdę zatrudnia: człowiek czy algorytm? AI Act zmienia odpowiedzialność pracodawców

• AI może wpływać na szanse kandydata jeszcze przed aplikacją, m.in. przez targetowanie ofert, sourcing, ranking i tworzenie shortlist.
• Po zatrudnieniu algorytmy mogą współdecydować o grafiku, przydzielonych zadaniach, premiach, ocenie pracy czy awansach, więc ryzyko nie kończy się na rekrutacji.
• Nie każde zastosowanie AI w HR jest wysokiego ryzyka – najważniejsze jest to, czy wynik systemu przekłada się na decyzję dotyczącą człowieka.
• AI Act zwiększa znaczenie faktycznego nadzoru człowieka, jakości danych, logów i przejrzystości działania systemów – samo formalne zatwierdzenie rekomendacji może nie wystarczyć.
• Od 2 sierpnia br. firmy muszą już stosować część zasad wynikających z AI Act, w tym zasady przejrzystości. Dlatego pracodawcy powinni już teraz zweryfikować, w jaki sposób korzystają z AI oraz czy sposób ich wdrożenia i komunikacji spełnia aktualne wymagania.

AI może zdecydować, zanim kandydat trafi do rekrutera

Sztuczna inteligencja może wpływać na proces, jeszcze zanim rekruter zobaczy konkretną kandydaturę – może kierować reklamę wakatu do wybranych grup, wyszukiwać osoby w portalach zawodowych i bazach CV, a następnie dopasowywać, rankingować i tworzyć shortlistę profili.

Jeśli system selekcjonuje 500 osób z bazy 10 tys. kandydatów, a rekruter pracuje już tylko na tej ograniczonej grupie, to formalnie decyzję nadal podejmuje człowiek. Problem polega na tym, że o tym, kogo ten człowiek w ogóle będzie brał pod uwagę, w dużej mierze zdecydowała AI. Ten etap również trzeba umieć kontrolować – podkreśla Kordian Kowalewski, IT Recruitment Director w LeasingTeam Group.

Takie ryzyko nie ogranicza się do samego etapu wyboru kandydatów. W lutym 2026 r. Wydział Praw Obywatelskich Departamentu Sprawiedliwości Stanów Zjednoczonych zawarł ugodę z firmą Elegant Enterprise-Wide Solutions w związku z ogłoszeniami o pracę wygenerowanymi przy użyciu AI, które faworyzowały pracowników posiadających wizy H-1B, OPT lub H-4. W efekcie część osób była wykluczona z możliwości ubiegania się o stanowiska już na samym początku procesu. Sprawa pokazuje, że zastosowanie AI może wpływać na dostęp do rekrutacji jeszcze zanim kandydatura trafi do rekrutera, a wykorzystanie narzędzia AI nie zwalnia firmy z odpowiedzialności za sposób prowadzenia procesu.

Kontrola wpływu AI na rekrutację zaczęła się już wcześniej. W 2023 r. Komisja ds. Równych Szans Zatrudnienia (EEOC) zawarła ugodę z firmą iTutorGroup po tym, jak jej system automatycznie odrzucał starszych kandydatów. Sprawa dotyczyła ponad 200 osób, a pięcioletnia ugoda zakładała 365 tys. dolarów dla poszkodowanych oraz zakaz stosowania takich kryteriów.

AI Act zmienia kryteria wyboru technologii

Kontrola systemów HR wykorzystujących AI powinna zaczynać się od sprawdzenia, do jakich informacji sztuczna inteligencja ma dostęp, czy są one niezbędne do realizacji danego zadania lub procesu oraz kto może korzystać z wyników jego pracy. Równie ważne jest to, czy firma rozumie, na jakiej podstawie system formułuje rekomendacje, czy jego działanie można odtworzyć w logach i kto ma dostęp do wyników.

Model nie powinien mieć dostępu do pełnej informacji o pracowniku tylko dlatego, że technicznie jest to możliwe. Powinien dostać wyłącznie to, czego potrzebuje do konkretnego zadania. Uprawnienia należy dostosować również do roli i poziomu użytkownika: powinny być inne w przypadku pracownika, menedżera czy administratora. Bardzo ważna jest też możliwość zakwestionowania, zatrzymania lub zmiany rekomendacji AI przez człowieka, tak aby nadzór nie był wyłącznie formalny – wskazuje Marek Deręgowski.

W przypadku systemów AI wysokiego ryzyka kierunek zmian wyznacza rozporządzenie Unii Europejskiej. Art 26. AI Act wskazuje, że pracodawca korzystający z takiego rozwiązania powinien zapewnić faktyczny nadzór człowieka, kontrolować adekwatność danych wejściowych w zakresie, na który ma wpływ, monitorować działanie systemu oraz reagować na ryzyka i incydenty.

Ważnym elementem nadzoru będą też logi, czyli zapis działania systemu. W określonych przypadkach firmy będą musiały przechowywać je przez co najmniej sześć miesięcy, tak aby w razie potrzeby można było odtworzyć przebieg działania AI. Regulacja wymaga również odpowiedniego informowania pracowników i innych osób, wobec których system uczestniczy w podejmowaniu decyzji. W praktyce proces powinien być zaprojektowany tak, by dało się sprawdzić, kto korzystał z rekomendacji AI, na jakich danych została oparta oraz kiedy i przez kogo mogła zostać zakwestionowana, zatrzymana lub zmieniona.

W bardziej sformalizowanych procesach, zwłaszcza przy współpracy z dużymi, międzynarodowymi czy publicznymi organizacjami, już dziś pojawiają się pytania o bezpieczeństwo danych. Jednak w codziennych rozmowach biznesowych z klientami nadal częściej interesuje ich przede wszystkim efekt – czas i skuteczność realizacji usługi – mówi Kordian Kowalewski.

Obserwacje te potwierdza Marek Deręgowski, podkreślając, że do tej pory przy wyborze systemu HR klienci koncentrowali się przede wszystkim na jego funkcjach, wygodzie obsługi i korzyściach biznesowych. AI Act przesuwa jednak uwagę także na sposób działania technologii, w tym jej transparentność.

AI literacy to nie tylko kurs promptowania

Przygotowanie zespołów HR do pracy z AI nie powinno ograniczać się do nauki obsługi narzędzi. Rekruter nie musi rozumieć matematyki stojącej za algorytmem, ale powinien wiedzieć, na jakich danych system pracuje, jakie ma ograniczenia i w których momentach jego wynik wymaga weryfikacji.

AI nie zastąpi rekrutera, ale zmieni profil tego zawodu. Do klasycznych kompetencji – rozmowy, oceny kandydata i zrozumienia potrzeb organizacji – dochodzi umiejętność świadomej pracy z technologią i interpretowania jej wyników – wskazuje Kowalewski.

Organizacje potrzebują więc nie tylko ogólnych zasad korzystania ze sztucznej inteligencji, ale również instrukcji dopasowanych do konkretnych procesów HR. Dobrym rozwiązaniem są pilotaże prowadzone na ograniczonej grupie użytkowników, które pozwalają sprawdzić działanie narzędzia, wychwycić błędy i prawidłowo skalibrować rozwiązanie przed szerszym zastosowaniem. To bezpieczne pole do nauki i poszerzania kompetencji cyfrowych użytkowników.

W większych firmach może to z czasem prowadzić do wyodrębnienia nowych ról związanych z nadzorem nad konkretnymi narzędziami AI. W mniejszych organizacjach może to być raczej dodatkowa kompetencja osób, które najlepiej znają technologię i potrafią przełożyć jej działanie na praktykę HR – dodaje Kordian Kowalewski.

Więcej zasad może oznaczać… więcej zaufania

AI Act nie musi być wyłącznie zbiorem ograniczeń. Regulacja może uporządkować zasady korzystania z automatyzacji, lepiej rozdzielić odpowiedzialność i zwiększyć przewidywalność procesów. Jasne określenie, kiedy pracownik ma kontakt z AI, do czego służy system, jakie ma ograniczenia i w którym momencie decyzję przejmuje człowiek, może też wzmacniać zaufanie do technologii.

Rynek HR tech dopiero uczy się transparentności wokół sztucznej inteligencji. W wielu umowach zawieranych kilka lat temu ten temat w ogóle się nie pojawiał, bo funkcje oparte na AI zostały dodane do systemów później. Z czasem odpowiednie zapisy dotyczące sztucznej inteligencji będą zapewne tak naturalnym elementem umów jak dziś kwestie RODO czy poufności – zauważa Marek Deręgowski z TalentPoint.

Doświadczenia LeasingTeam Group z wdrażaniem narzędzi wykorzystujących AI w ramach TalentPoint, w tym asystentki Talentiny, pokazują, że transparentność może ułatwiać akceptację technologii. Już samo poinformowanie pracownika, że korzysta z rozwiązania opartego na sztucznej inteligencji, wpływa pozytywnie na jego nastawienie. Po pierwszych miesiącach Talentina samodzielnie zamyka ok. 56% zapytań pracowników dotyczących m.in. zgłaszania lub stanu urlopów, L4 i innych spraw kadrowych, bez konieczności przekazywania sprawy do konsultanta lub działu HR. Każda odpowiedź jest na bieżąco analizowana przez dostawcę, co pozwala na udoskonalanie tych rozwiązań. Im bardziej zrozumiałe są zasady działania narzędzia i widoczne jego korzyści, tym łatwiej budować zaufanie użytkowników.