Moja prva asocijacija kada čujem riječ transparentnost je istina. Kada malo “zagrebem” po vlastitim mislima i pokušam razložiti zašto baš istina od svih riječi, misli me dalje vode svojstvima koje vežem uz taj pojam, a od kojih je jedna i transparentnost, uz pojmove poput jasnoće, otvorenosti, provjerljivosti, ponovljivosti i utemeljenosti na činjenicama. Ako nastavim i pretražim definicije transparentnosti, vidim da ona, ovisno o kontekstu, može značiti i situaciju u kojoj su poslovanje i financijske aktivnosti poduzete na otvoren, javan način bez tajni, tako da ljudi mogu vjerovati da su poduzimaju na pošten i častan način. Uh, koliko značenja ta transparentnost skriva u sebi…
A upravo je transparentnost tema ovog teksta i četvrti zahtjev koji se stavlja pred sustave umjetne inteligencije. Europska unija je u svojim komunikacijama dosad isticala da podaci, sustav i poslovni model umjetne inteligencije trebaju biti transparentni i pojašnjeni tako da su razumljivi svim dionicima. Upravo na tragu tog koncepta i sustava umjetne inteligencije, koji čovjeka stavljaju u središte tzv. humanocentrične umjetne inteligencije, zahtjeva se da čovjek mora biti upoznat i svjestan činjenice da je u interakciji sa sustavom umjetne inteligencije i mora biti obaviješten o svojstvima i ograničenjima sustava.
U tekstu dokumenta Etičke smjernice za pouzdanu umjetnu inteligenciju* zahtjev transparentnosti je objašnjen kako slijedi:
Transparentnost
Ovaj je zahtjev usko povezan s načelom objašnjivosti i obuhvaća transparentnost elemenata koji su relevantni za sustav umjetne inteligencije: to su podaci, sustavi i poslovni modeli.
Sljedivost. Skupove podataka i procese koji dovode do odluke sustava umjetne inteligencije, uključujući prikupljanje podataka i označivanje podataka te korištene algoritme, trebalo bi evidentirati u skladu s najboljim mogućim standardom kako bi se omogućila sljedivost i povećala transparentnost. To se primjenjuje i na odluke koje sustav umjetne inteligencije donese. To omogućuje utvrđivanje razloga pogrešne odluke umjetne inteligencije, što bi moglo pomoći u sprečavanju budućih pogrešaka. Sljedivost stoga olakšava provjerljivost i objašnjivost.
Objašnjivost. Objašnjivost se odnosi na sposobnost objašnjenja i tehničkih procesa sustava umjetne inteligencije i povezanih ljudskih odluka (npr. područja primjene sustava umjetne inteligencije). Tehnička objašnjivost zahtijeva da odluke koje donese sustav umjetne inteligencije budu razumljive za ljude i da se mogu pratiti. Štoviše, možda će biti potrebni kompromisi između poboljšanja objašnjivosti sustava (što može smanjiti njegovu točnost) i povećanja njegove točnosti (na trošak objašnjivosti). Ako sustav umjetne inteligencije znatno utječe na živote ljudi, trebalo bi biti moguće zahtijevati primjereno objašnjenje procesa odlučivanja sustava umjetne inteligencije. To bi objašnjenje trebalo biti pravovremeno i prilagođeno stručnom znanju predmetnog dionika (npr. laik, zakonodavac ili istraživač). Nadalje, trebala bi biti dostupna objašnjenja u kojoj mjeri sustav umjetne inteligencije utječe na postupak odlučivanja u organizaciji i oblikuje ga, na odabir pri izradi sustava te na razlog za njegovo uvođenje (čime se osigurava transparentnost poslovnog modela).
Komunikacija. Sustavi umjetne inteligencije korisnicima se ne bi trebali predstavljati kao ljudi. Ljudi imaju pravo da ih se obavijesti da komuniciraju sa sustavom umjetne inteligencije. To podrazumijeva da se sustavi umjetne inteligencije moraju moći identificirati kao takvi. Usto, kako bi se osigurala usklađenost s temeljnim pravima, prema potrebi bi se trebala pružiti mogućnost odbijanja takve interakcije i omogućiti interakcija s drugom osobom. Osim toga, mogućnosti i ograničenja sustava umjetne inteligencije trebalo bi priopćiti stručnjacima za umjetnu inteligenciju ili krajnjim korisnicima na način koji je primjeren konkretnom slučaju upotrebe. To bi moglo obuhvaćati priopćavanje razine točnosti sustava umjetne inteligencije i njegovih ograničenja.
Sve navedeno, kao poželjne karakteristike koje transparentnost u sebi nosi i koje bi trebali ispunjavati sustavi umjetne inteligencije, ovih dana slušamo, čitamo i diskutiramo vezano uz primjenu raznih rješenja za praćenje širenja COVIDA-19, koji se temelje na raznim tehnološkim rješenjima i opet moraju zadovoljiti slične zahtjeve kao i sustavi umjetne inteligencije.
Upravo u nedjeljnom newsletteru Marka Rakara (newsletter toplo preporučujem) je između ostalih i poveznica na super članak MIT-a – na trenutni pregled takvih rješenja globalno s prikazom njihovih karakteristika**, od kojih je jedna transparentnost. Nalaz te tabele pokazuje da je 15. svibnja 2020., unutar postojećih rješenja, zahtjev za transparentnošću bio zadovoljen u 11 od 25 rješenja. Iznimno je važno da takva rješenja budu transparentna u svojoj svrsi, količini, načinu prikupljanja i skladištenja (uništenja) te korištenja podataka, određenju trajanja takvog prikupljanja i korištenja te o krajnjim korisnicima takvih podataka. Jasno je da klasična uloga epidemiologa, koju uspostavlja matrix svih naših kontakata putem običnog intervjua s bilo kojim pojedincem, koji je zahvaćen ili potencijalno zaražen i to u pravilu nakon svih kontakata, može biti zamijenjena tehnologijom.
Tehnologija bi u tom slučaju trebala osigurati kvalitetnije podatke za donošenje odluka o daljnjim epidemiološkim mjerama i puno brže postupanje koje čuva zdravlje i ljudske živote te minimizira potrošnju resursa poput epidemiologa i utječe na društvo u cjelini. Naravno, uz zadovoljenje načela razmjernosti prilikom prikupljanja takvih podataka, kako bi bila prikupljena količina podataka koja je potrebna za odluku samog epidemiologa ili preporuku odluke utemeljenu na tehnološkom modelu, koji služi kao temelj za takvu odluku.
Izazovi koje transparentnost stavlja pred bilo koju tehnologiju, uključujući i umjetnu inteligenciju, moraju biti zadovoljeni i to upravo iz razloga koji osiguravaju da se uvijek može na provjerljiv, jasan i ponovljiv način komunicirati kako je određena odluka donesena te da se pritom vodi računa o osobi s kojom se komunicira i njenom predznanju.
Prepuštanje odlučivanja bez transparentnosti otvara Pandorinu kutiju mogućih nenamjernih šteta i jednako tako namjeravanih zloupotreba i manipulacija takvih sustava. Zadovoljavanje zahtjeva transparentnosti osigurava da se takve situacije osvijeste i anticipiraju te u najvećoj mogućoj mjeri izbjegnu u svojim negativnim i neželjenim posljedicama. Ujedno, transparentnost omogućava uspostavu i očuvanje povjerenja korisnika u tehnologiju, kreatorima tehnologije omogućava jasnu i transparentnu povratnu informaciju od strane samih korisnika, koju mogu koristiti za poboljšanje i unapređenje svojih rješenja. Dakle, transparentnost, odnosno istina oslobađa.
* https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
**https://www.technologyreview.com/2020/05/07/1000961/launching-mittr-covid-tracing-tracker/
