EU Akt o umjetnoj inteligenciji

Kao i svaka nova tehnologija, umjetna inteligencija donosi nove izazove za ljudsko društvo, uključujući potrebu za razvojem pripadne zakonske regulative kojoj je cilj spriječiti zlouporabe umjetne inteligencije. U donošenju pravne regulative, mnoge države suočene su s kompromisom između „strogosti“ regulative koja štiti ljudska prava, ali usporava tehnološki razvoj i „blagosti“ regulative koja potiče razvoj tehnologije, ali donosi veći rizik od zlouporaba umjetne inteligencije.

Europska unija pripremila je EU Akt o umjetnoj inteligenciji gdje je podijelila primjene umjetne inteligencije na one koje su neprihvatljive, one s visokim rizikom i one s ograničenim rizikom ili kod kojih nema rizika za sigurnost ili kršenje ljudskih prava. Neprihvatljive primjene koje su zabranjene su npr. društveno vrednovanje (engl. social scoring) gdje se na temelju praćenja ljudskih postupaka ili ponašanja mogu davati ili uskraćivati određena građanska prava. Neprihvatljiva je umjetna inteligencija koja kategorizira ljude po rodu, rodnom identitetu, rasi, etničkom porijeklu, migracijskom statusu, državljanstvu, političkom uvjerenju, seksualnoj orijentaciji ili vjeroispovijesti. Također nije dopuštena automatska biometrijska identifikacija ljudi u stvarnome vremenu, npr. s pomoću kamera koje se nalaze u javnim prostorima ili na radnim mjestima. Nije dopušteno ni prediktivno policijsko djelovanje temeljeno na profiliranju osobe niti kognitivna manipulacija osjetljivih skupina društva kao što su npr. djeca.

Fakultet elektrotehnike i računarstva Sveučilišta u Zagrebu ima višedesetljetnu tradiciju istraživanja i edukacije u području umjetne inteligencije te je 2019. godine formirao Centar za umjetnu inteligenciju koji okuplja 19 istraživačkih laboratorija s više od 150 znanstvenika koji se bave istraživanjima teorije i primjena umjetne inteligencije i provode brojne nacionalne i međunarodne istraživačko-razvojne projekte. U svojim istraživanjima istraživači Centra poštuju etička načela definirana EU Aktom o umjetnoj inteligenciji, a o etičnosti istraživanja brine se i Etičko povjerenstvo FER-a koje je zaduženo za promicanje etičkih načela u znanosti i obrazovanju.