Predstavljajte si, da je umetna inteligenca (UI) kot nov, zmogljiv stroj v naši družbi. Ta stroj lahko naredi veliko dobrega, a če ga ne uporabljamo pravilno, lahko povzroči težave. Zato je Evropska unija ustvarila "Akt o umetni inteligenci", ki je kot priročnik za varno in etično uporabo tega stroja.
Zakaj potrebujemo ta akt?
UI je že del našega vsakdana – od pametnih pomočnikov na telefonih do priporočil za filme. Čeprav je večina teh uporab prijaznih, obstajajo tudi takšne, ki lahko škodujejo ljudem ali kršijo njihove pravice. Akt želi zagotoviti, da UI deluje v korist ljudi in ne proti njim.
Kako akt razvršča UI sisteme?
Akt deli UI sisteme v štiri skupine glede na tveganje:
- Nesprejemljivo tveganje
To so sistemi, ki so prepovedani, ker lahko resno škodijo ljudem. Na primer, če bi država uvedla točkovanje državljanov glede na njihovo vedenje (socialno točkovanje) ali če bi igrača z UI otroke spodbujala k nevarnim dejanjem.
Predstavljajte si, da država uvede sistem, kjer vsakemu državljanu dodeli oceno glede na njegovo vedenje, kot so plačevanje računov, vedenje na spletu ali družbena interakcija. Ta ocena bi lahko vplivala na dostop do storitev, kot so posojila, zaposlitvene možnosti ali potovanja. Takšno socialno točkovanje bi lahko povzročilo diskriminacijo in omejevanje svobode posameznikov, zato je v okviru Akta o umetni inteligenci prepovedano.
Prepovedana je tudi igrača z umetno inteligenco, ki otrokom daje navodila. Če bi ta igrača spodbujala otroke, naj se igrajo na nevarnih mestih, kot so prometne ceste, bi to predstavljalo nesprejemljivo tveganje. Takšne prakse so prepovedane, saj lahko resno ogrozijo varnost in zdravje ljudi.
- Visoko tveganje
Ti sistemi lahko močno vplivajo na naše življenje, zato morajo izpolnjevati stroga pravila. Sem spadajo UI sistemi, ki pomagajo pri zaposlovanju ali odločajo o odobritvi posojil. Če bi bili ti sistemi pristranski, bi lahko nekatere ljudi neupravičeno izključili.
Predstavljajte si, da podjetje uporablja umetno inteligenco za pregledovanje življenjepisov. Če je sistem naučen na podatkih, kjer so bili v preteklosti zaposleni predvsem moški, lahko nehote daje prednost moškim kandidatom in diskriminira ženske. In seveda obratno. Podobno lahko pri odobritvi posojil UI, ki temelji na zgodovinskih podatkih, nepošteno zavrne posojila določenim etničnim skupinam zaradi pristranskosti kakršne koli vrste.
- Omejeno tveganje
Tukaj gre za sisteme, ki morajo biti pregledni. Na primer, če klepetate z UI botom, morate biti obveščeni, da ne govorite s človekom
Predstavljajte si, da prejmete sporočilo na družbenem omrežju od osebe, ki se zdi resnična. Kasneje ugotovite, da ste ves čas komunicirali z računalniškim programom, zasnovanim za promocijo izdelkov. Če bi vedeli, da gre za bota, bi se lahko odločili ali želite nadaljevati pogovor ali ne. Zato je pomembno, da smo obveščeni, kadar komuniciramo z umetno inteligenco, da se izognemo zavajanju in ohranimo zaupanje v digitalnih interakcijah.
- Minimalno tveganje
To so sistemi, ki ne predstavljajo večje grožnje, kot so filtri za neželeno pošto ali UI v videoigrah. Zanje ni posebnih pravil.
Kaj to pomeni za nas?
Akt o umetni inteligenci želi zagotoviti, da UI deluje v našo korist. To pomeni, da morajo biti sistemi pregledni, pravični in pod človeškim nadzorom. Če UI sprejema odločitve, ki vplivajo na naše življenje, moramo vedeti, kako in zakaj so bile te odločitve sprejete.
Kdaj začnejo veljati ta pravila?
Akt je začel veljati 1. avgusta 2024. Nekatera pravila so že v uporabi, druga pa bodo začela veljati v prihodnjih letih, da se podjetja in organizacije lahko prilagodijo.
*
Akt o umetni inteligenci je kot varnostni pas za našo družbo v dobi UI. Želi zagotoviti, da bomo izkoristili prednosti UI, hkrati pa se izognili njenim pastem. Tako bomo lahko zaupali, da UI deluje v našo korist in spoštuje naše pravice.
----------
Avtor: Uredništvo www.zupnijavinica.com.
Vir: Akt o umetni inteligenci
Komentarji
Objavite komentar