Kad sam prošli tjedan pisala uvodni tekst, prvenstveno sam mislila na izazove koje donosi globalna pandemija COVID 19 i usporavanje svjetske ekonomije te sve izglednija duboka recesija, ne samo nacionalna, već i globalna. Nisam ni slutila da će slojevi krize biti udvostručeni razornim potresom na zagrebačkom području i lošim zimskim uvjetima odmah nakon potresa.
Stoga su izazovi koje donosi umjetna inteligencija i koje moramo zajedno promisliti i domisliti još utoliko aktualniji, jer zapravo propituju društvo koje imamo i vrijednosti koje želimo zadržati, izmijeniti ili napustiti već danas, a da bismo osvijestili i ostvarili svijet budućnosti u skladu s tim vrijednostima.
Taj postupak suočavanja na osobnoj i društvenoj razini nikad nije jednostavan i zapravo sve ove nedaće koje nas svakodnevno zatrpavaju, omogućuju nam da jasnije vidimo vrijednosti koje želimo zadržati, vrijednosti koje želimo razviti i vrijednosti koje želimo napustiti. Ključno je da se ta diskusija vodi na način da su u nju uključeni stručnjaci iz različitih industrija, a ne samo ICT industrije, jer je umjetna inteligencija namijenjena svima nama i stoga pozivam i vas, čitatelje ovih redaka, da čitate o umjetnoj inteligenciji, promišljate njezine izazove i načine kako ih adresirati te mehanizme kojima ćemo ih propitivati i usavršavati.
Trebamo i ekonomiste i liječnike i antropologe i sociologe i inženjere elektrotehnike i marketing stručnjake i učitelje i strojare i psihologe i fonetičare i stručnjake za sigurnost i pravnike, jednom riječju sve profesionalce i korisnike umjetne inteligencije, da se organiziraju u tzv. think tankove i stalno propituju postavke i usavršavaju aktivno na temelju novih saznanja pristup i korištenje umjetne inteligencije da nitko ne ostane isključen.
Stoga, iako je svijet paraliziran globalnom pandemijom, iako se životi pojedinaca rapidno mijenjaju iz dana u dan te se svakodnevno ograničavaju prava poput slobode kretanja i prava na rad i obavljanje gospodarskih aktivnosti, iako trgovačka društva, obrti i samozaposleni u gotovo svim industrijama trpe velike financijske gubitke i iako nema jasne naznake na horizontu kad i u kojoj mjeri će to sve prestati, mislim da je kriza uvijek prilika da promijenimo fokus i iz nove perspektive sagledamo stvari oko sebe te donesemo brzo odluke koje će nam pomoći da se što prije oporavimo i postavimo i život i poslovanje na zdravije temelje.
Dva ključna pojma
Sad odmah na početku u priču uvodim dva pojma za koja smatram da su ključni alati koji će nam osobno i na društvenoj razini biti ključni za budućnost. To su pojam odgovornosti (eng. responsibility) i pojam aktivne odgovornosti (eng. accountability).
Napominjem da je ovaj pojam aktivna odgovornost moj osobni prijevod, jer nisam naišla na bolji te takav prijevod temeljim na definiciji accountability iz online Cambridge Dictionary, a koja glasi: “Accountability – the fact of being responsible for what you do and able to give a satisfactory reason for it, or the degree to which this happens; – a situation in which someone is responsible for things that happen and can give a satisfactory reason for them: e.g. The organization suffers from a lack of accountability. e.g. greater/increased/more accountability The public has been demanding greater accountability from lawmakers.“
uključuje temeljna prava, ljudsko djelovanje i ljudski nadzor
Po meni je to aktivno preuzimanje osobne odgovornosti i ključno je za sadašnjost, kao i za budućnost. Redefiniranjem vrijednosti na osobnoj, pa potom na društvenoj razini, i preuzimanjem osobne aktivne odgovornosti te društvene aktivne odgovornosti za implementaciju tih vrijednosti možemo sukreirati svijet sutrašnjice. Važno je napomenuti da je u tom procesu, jer to je dinamični proces, ključno stalno valorizirati i preispitivati rezultate takvih alata i mjera, jer jedino tako, koristeći agile metodu, svojstvenu startup svijetu, možemo osigurati da svaki novi ciklus učenja bude bolji od prethodnoga.
Ako se sjećate iz uvodnog teksta, spominjala sam sedam zahtjeva, koje svaki sustav umjetne inteligencije mora zadovoljavati u svakoj od faza svog životnog ciklusa. Danas ćemo pažnju posvetiti prvom od njih, a to je: 1. zahtjev za ljudskim djelovanjem i nadzorom, koji uključuje temeljna prava, ljudsko djelovanje i ljudski nadzor.
Europska unija je tijekom protekle dvije godine u svojim dokumentima i komunikaciji putem raznih kanala isticala da je namjera sačuvati temeljna načela i vrijednosti koja su sadržana u osnovnim aktima Europske unije, poput vrijednosti utvrđenih u članku 2. Ugovora o Europskoj uniji i u Povelji EU-a o temeljnim pravima, a koja predstavljaju temelj prava svih stanovnika Unije. To su prava koja su nam svima poznata te ću se poslužiti dijelom teksta službenog prijevoda Etičkih smjernica za pouzdanu umjetnu inteligenciju, izdanim u travnju 2019. godine od Neovisne stručne skupine na visokoj razini o umjetnoj inteligenciji, koji citiram u nastavku*:
Poštovanje ljudskog dostojanstva. Ljudsko dostojanstvo podrazumijeva ideju da svako ljudsko biće posjeduje “intrinzičnu vrijednost” koju druge osobe, ali ni nove tehnologije, kao što su sustavi umjetne inteligencije, nikada ne bi trebala umanjiti, ugroziti ili potisnuti. U kontekstu umjetne inteligencije poštovanje ljudskog dostojanstva podrazumijeva da se sa svim ljudima postupa s poštovanjem koje zaslužuju kao moralni subjekti, a ne samo kao s objektima koje se probire, razvrstava, vrednuje, grupira, uvjetuje ili kojima se manipulira. Sustave umjetne inteligencije stoga treba razvijati tako da se poštuje tjelesni i duhovni integritet ljudi, njihov osobni i kulturni osjećaj identiteta i zadovoljavanje njihovih osnovnih potreba te da im se služi i da ih se štiti.
Osobna sloboda. Ljudi bi trebali zadržati slobodu da odlučuju sami za sebe. To podrazumijeva slobodu od povrede suverenosti, ali zahtijeva i intervenciju vladinih i nevladinih organizacija kako bi se osiguralo da pojedinci ili ljudi izloženi riziku od isključenosti imaju jednak pristup prednostima i prilikama umjetne inteligencije. U kontekstu umjetne inteligencije sloboda pojedinca zahtijeva ublažavanje (ne)izravne prisile, ublažavanje prijetnji mentalnoj autonomiji i mentalnom zdravlju, neopravdanog nadzora, zavaravanja i nepravedne manipulacije. Štoviše, sloboda pojedinca znači predanost da se pojedincima omogući veća kontrola nad svojim životima, uključujući (među ostalim pravima) zaštitu slobode poduzetništva, slobode umjetnosti i znanost, slobode izražavanja, prava na privatni život i privatnost te slobode okupljanja i udruživanja.
Poštovanje demokracije, pravde i vladavine prava. U ustavnim demokracijama sve ovlasti vlade moraju biti zakonski odobrene i ograničene zakonom. Sustavi umjetne inteligencije trebali bi služiti održavanju i poticanju demokratskih procesa te poštovati pluralnost vrijednosti i životnih odabira pojedinaca. Sustavi umjetne inteligencije ne smiju ugroziti demokratske procese, ljudsko razmatranje ili demokratske sustave glasanja. Sustavi umjetne inteligencije moraju sadržavati i obvezu kojom se osigurava da ne djeluju na načine kojima se ugrožavaju temeljne obveze na kojima se temelji vladavina prava, obvezni zakoni i propisi te kojom se osigurava zakonito postupanje i ravnopravnost pred zakonom.
Ravnopravnost, nediskriminacija i solidarnost – uključujući prava osoba kojima prijeti opasnost od isključenosti. Mora se osigurati ravnopravno poštovanje moralne vrijednosti i dostojanstva svih ljudi. To nadilazi nediskriminaciju, koja dopušta razlikovanje situacija koje nisu slične na temelju objektivnih opravdanja. U kontekstu umjetne inteligencije ravnopravnost podrazumijeva da operacije sustava ne mogu dovesti do nepravedno pristranih ishoda (npr. podaci koji se upotrebljavaju za trening sustava umjetne inteligencije trebali bi biti što više uključivi i predstavljati različite skupine populacije). To zahtijeva i odgovarajuće poštovanje potencijalno ranjivih osoba i skupina, kao što su radnici, žene, osobe s invaliditetom, etničke manjine, djeca, potrošači ili druge osobe kojima prijeti opasnost od isključenosti.
Prava građana. Građani ostvaruju korist od niza prava, uključujući biračko pravo, pravo na dobru upravu ili pristup javnim dokumentima te pravo na podnošenje peticije upravi. Sustavi umjetne inteligencije pružaju veliku mogućnost za poboljšanje razmjera i učinkovitosti vlade u pružanju javnih dobara i usluga društvu. Primjene umjetne inteligencije istovremeno mogu i negativno utjecati na prava građana koja bi trebalo zaštititi. Upotrebom pojma „prava građana” ne nastoje se uskratiti ili zanemariti prava državljana trećih zemalja i nezakonitih osoba u EU-u, koji isto imaju prava na temelju međunarodnog prava, a time i u području umjetne inteligencije.
Glavna nit vodilja je da svaki sustav umjetne inteligencije mora podržavati i omogućavati ljudsku autonomiju i odlučivanje te da korisnici moraju moći donositi informirane i autonomne odluke o sustavima umjetne inteligencije. Pretpostavka je da im se omogući stjecanje znanja i alati za zadovoljavajuće razumijevanje sustava umjetne inteligencije te interakciju s njima i, ako je moguće, trebalo bi im se omogućiti da razumno samostalno procjenjuju ili osporavaju sustav. Zaključno, tu je i zahtjev za osiguranjem ljudskog nadzora koji pomaže pri osiguravanju da sustav umjetne inteligencije ne ugrozi ljudsku autonomiju ili izazove druge negativne učinke.
Zaključno ću samo ukratko predstaviti rezultate istraživanja** skupine znanstvenika, objavljenih u Nature Machine Intelligence časopisu prošle jeseni, kojem je bio cilj utvrditi u kojoj mjeri, zaključno do tada (travanj 2019. godine) na temelju objavljenih priručnika, etičkih smjernica i kodeksa raznih dionika i kompanija, vlada i akademija, ljudi dijele zajedničke vrijednosti globalno.
Znakovito je da je rezultat bio sljedeći: transparentnost u 73/84 dokumenta, pravednost i pravičnost u 68/84 dokumenta, nečinjenje štete u 60/84 dokumenata te odgovornost u 60/84 dokumenata.
Meni osobno to ulijeva nadu i daje pravo tvrditi da ipak dijelimo iste vrijednosti globalno te da nam neće biti prevelik zalogaj dogovorno uskladiti kakvu budućnost želimo.
** “Artificial Intelligence: the global landscape of ethics guidelines”, Anna Jobin, Marcello Ienca and Effy Vayena, Nature Machine Intelligence 1, 389-399 (2019) https://www.nature.com/articles/s42256-019-0088-2
