Sjećamo li se ideja nekih naših poduzetnika za instalacijom biometrijskih skenera na ulaze u trgovine u svrhe brojanja kupaca, prepoznavanja spola, starosti i učestalosti kupnji?
EU je u finalnoj fazi izrade nove Uredbe o pristupu umjetnoj inteligenciji.
Zadnja verzija prijedloga EU Uredbe je iscurila u užim krugovima i nalazi se na ovom linku:
https://drive.google.com/file/d/1ZaBPsfor_aHKNeeyXxk9uJfTru747EOn/view
Ukratko:
Glavni cilj EU je povećati povjerenje javnosti u AI, putem sustava provjera usklađenosti i ravnoteža ukorijenjenih u „vrijednosti EU-a” kako bi se potaknulo prihvaćanje takozvane „pouzdane” i „humano-centrične” AI. Stoga će se čak i nositelji AI zahtjeva koji se ne smatraju „visokorizičnim” i dalje poticati na donošenje kodeksa ponašanja „radi poticanja dobrovoljne primjene obveznih zahtjeva primjenjivih na visokorizične AI sustave”, kako to navodi Komisija.
Primjeri „šteta” povezanih s visokorizičnim sustavima AI-a navedeni su u nacrtu kao: „povreda ili smrt osobe, šteta imovine, sistemski štetni utjecaji na društvo u cjelini, znatni poremećaji u pružanju ključnih usluga za uobičajeno obavljanje ključnih gospodarskih i društvenih aktivnosti, nepovoljan utjecaj na financijske, obrazovne ili stručne mogućnosti osoba, nepovoljan utjecaj na pristup javnim službama i bilo koji oblik javne pomoći te nepovoljan utjecaj na [europska] temeljna prava.”
Također se raspravlja o nekoliko primjera zahtjeva visokog rizika – uključujući sustave zapošljavanja; sustave koji omogućuju pristup obrazovnim ustanovama ili ustanovama za strukovno osposobljavanje; procjenu kreditne sposobnosti; sustave uključene u utvrđivanje raspodjele naknada koje financira porezni obveznik; sustave odlučivanja koji se primjenjuju u sprečavanju, otkrivanju i kaznenom progonu kaznenih djela; te sustave odlučivanja koji se koriste za pomoć sucima.
Zabranjene prakse i biometrija
Određene „prakse” navedene su kao zabranjene u skladu s člankom 4. Uredbe, uključujući (komercijalne) aplikacije sustava masovnog nadzora i sustave socijalnog bodovanja opće namjene koje bi mogli dovesti do diskriminacije.
AI sustavi koji su osmišljeni tako da manipuliraju ljudskim ponašanjem, odlukama ili mišljenjima i često na štetu pojedinaca.
Sustavi koji koriste osobne podatke za generiranje predviđanja kako bi (štetno) ciljali na ranjivost osoba ili skupina ljudi su posebno istaknuti kao oni o kojima se mora voditi posebna briga.
Ključna rečenica u prijedlogu Uredbe glasi:
"Treba priznati da umjetna inteligencija može omogućiti nove manipulacijske, ovisničke, socijalne kontrole i nediskriminirajuće nadzorne prakse koje su posebno štetne i trebalo bi je zabraniti kao kršenje vrijednosti Unije koje se odnose na poštovanje ljudskog dostojanstva, slobode, demokracije, vladavine prava i poštovanja ljudskih prava.”
Uvela bi se i obveza isticanja „CE” oznake" kako bi se autorima AI sustava pomoglo da zadobiju povjerenje korisnika.
