Prilikom uvođenja AI sustava u procese selekcije kandidata nužno je usmjeriti maksimalnu pažnju na obveze prema GDPR-u i AI aktu.
֍ GDPR
Posebno treba obratiti pozornost na članak 22. ako je izgledno donošenje odluka i/ili profiliranje isključivo putem automatizirane obrade osobnih podataka, a koji imaju značajan utjecaj na kandidata i pravni učinak na njega. Lako se može ovakav pristup pretvoriti u poigravanje s ljudskom sudbinom.
Obvezno štivo za tu temu su Smjernice Radne skupine za zaštitu podataka iz članka 29. WP251rev.01 o automatiziranom pojedinačnom donošenju odluka i izradi profila za potrebe Uredbe 2016/679, donesene 03.10.2017. i zadnje revidirane i donesene 06.02.2018.
U prvom redu takvo isključivo automatizirano donošenje odluka s pravnim ii sličnim značajnim učinkom na pojedinca smije se raditi samo ako je:
- Potrebno za izvršavanje ugovora ili predugovornih radnji
- Utvrđeno propisom RH ili EU
- Temeljem izričite privole pojedinca, što nije baš primjenjivo za postupke selekcije kad će kandidati pristati na sve samo da ostanu u igri.
Pri tom se pojedincu moraju informacije da se provodi takvo automatizirano donošenje odluka, uključujući i profiliranje, uz informacije o logici takve obrade (ne treba otkrivati algoritme) i treba objasniti posljedice takve obrade osobnih podataka na pojedinca. Tu moraju posebno biti napomenuta prava na prigovor, pravo na izražavanje vlastitog stajališta te pravo na osporavanje odluke i na ljudsku intervenciju kojom pojedinac mora moći zatražiti da se odluku o odbijanju ponovno razmotri.
No, ako u postupku konačnog donošenja odluka u okviru selekcije ovakav sustav služi samo kao pripomoć osobi koja ima ključnu ulogu u donošenju konačnog izbora kandidata, tada se ovaj članak 22. GDPR-a ne primjenjuje.
֍ AI akt
Prema Prilogu III. AI akta AI sustavi namijenjeni za zapošljavanje ili odabir fizičkih osoba, posebno za postavljanje ciljanih oglasa za posao, za analizu i filtriranje prijava za posao te za evaluaciju kandidata spadaju u visokorizične AI sustave i samim time opseg zahtjeva i obveza na takve sustave je „impresivan“ i nalazi se u Poglavlju III.:
- Ljudski nadzor nad AI sustavom
- Detaljna dokumentiranost sustava od strane dobavljača
- Nadzor nad ulaznim podacima
- Praćenje rada AI sustava i izvještavanje o problemima i rizicima
- Automatizirani logovi
- Registracija AI sustava u EU bazi za sustave u javnom sektoru
- Procjena učinka na zaštitu podataka DPIA
- Procjena učinka na temeljna prava FRIA
- Transparentnost i informiranje osoba obuhvaćenih obradom AI sustavima
- „Crveni gumb“ za gašenje AI sustava
No, članak 6. AI akta u svom stavku 3. utvrđuje i izuzeća od obveza za visokorizične sustave, ako u takvim AI sustavima nema značajnog rizik za zdravlje, sigurnost i temeljna prava pojedinaca ili ako AI sustav bitno ne utječe na ishod donošenje odluka, uz dodatno ispunjenje jednog od kriterija:
- AI sustav služi za uske postupovne zadaće
- AI sustav služi za poboljšanje rezultata prethodno dovršene ljudske aktivnosti
- AI sustav služi za otkrivanje obrazaca donošenja odluka ili odstupanja ali ne zamjenjuje ljudsku procjenu niti na nju utječe
- AI sustav služi za pripremne zadaće za ocjenjivanje, ne i za konačne odluke.
Ali, ako AI sustav provodi profiliranje pojedinaca, tada ove iznimke otpadaju.
Na temelju ovih postavki je u Njemačkoj sud utvrdio državni AI sustav za procjenu šansi tražiteljima posla na tržištu rada zakonitim, prvenstveno jer je korišten samo kao pripomoć osobi koja ima ključnu ulogu u donošenju konačnog izbora kandidata i implementiran je temeljem nacionalnog zakona.
Slučaj iz Njemačke je ovdje:
https://gdprhub.eu/index.php?title=BVwG_-_W256_2235360-1&mtc=today
Image from Freepik
#gdprcroatia
#aicroatia
