Živimo u veoma zanimljivom vremenu. Kada sam počela pisati ovu seriju tekstova prije par tjedana, i kada sam razmišljala kako približiti umjetnu inteligenciju i zahtjeve koji se stavljaju pred sustave umjetne inteligencije na području Europske unije, nisam ni slutila da ću primjere za takve zahtjeve imati upravo u našoj svakodnevici i da su ti zahtjevi i dvojbe sada aktualni te da je ključno o njima otvoreno i javno progovoriti. Naravno, važno je imati stručnjake u procesu odlučivanja i uvijek nanovo propitivati doseg i svrhu takvih zahtjeva.
Mobilne aplikacije koje se upravo razvijaju, a neke već i koriste globalno, u manje od mjesec dana postale su naša stvarnost, a možda i ključ suživota s virusom do pronalaska i odobrenja cjepiva. Cilj im je omogućiti prikupljanje podataka o kontaktima svakog od nas, u svrhu praćenja kretanja osoba (potencijalno) inficiranih Covidom-19 i prevencije i lociranja izvora i širenja te bolesti. Također, zahvaljujući tim podacima epidemiolozi s matematičarima razvijaju prediktivne modele mogućih scenarija daljnjih razvoja te bolesti.
Osobno, htjela bih imati na raspolaganju aplikacije koje bi mi omogućile da bolje štitim svoje i tuđe zdravlje te da pravovremeno reagiram u slučaju ugroze. Nekako mi se čini da ovog nepredvidljivog i nevidljivog neprijatelja, najlakše podnosimo uz više informacija o njemu samome, njegovom djelovanju i utjecaju na nas same, uz više saznanja kako ga spriječiti i liječiti njegove neželjene posljedice te onemogućiti njegovo širenje u najvećoj mogućoj mjeri.
Spremna sam i takvu aplikaciju instalirati na svoj mobilni telefon i svjesno dijeliti sve podatke o svome kretanju upravo u tu svrhu. Naravno, želim da se prilikom dijeljenja takvih osobnih podataka moja ljudska prava štite u najvećoj mogućoj mjeri na transparentan i jasno određen način uz moje znanje o sadržaju podataka, pravnom entitetu koji ih obrađuje i koristi te želim znati doseg i trajanje takve mjere i biti sigurna da postoji neovisno tijelo koje nadzire takvo postupanje radi prevencije moguće zloupotrebe. I kao pravniku i građaninu, iznimno mi je važno da je takva aplikacija utemeljena na etičkim vrijednostima društva kojem pripadam te da je uređena pravnim propisom usklađenim s ostatkom pravnog sustava.
To je briga koja muči sve građane Europske unije, a i globalno, koju je Europska unija adresirala preporukama 8. travnja 2020. godine*. U njima je jasno izražen stav povjerenika Europske komisije za unutarnje tržište i gospodarstvo Thierry Bretona da neće biti kompromisa prilikom razvoja i korištenja takvih aplikacija nauštrb ljudskih prava i sloboda, a posebno prava na privatnost i zaštitu osobnih podataka i očuvanja jedinstvenog tržišta.
Upravo je privatnost i upravljanje podacima treći zahtjev koji Etičke smjernice za pouzdanu umjetnu inteligenciju stavljaju pred sustave umjetne inteligencije. U nastavku citiram integralni dio toga zahtjeva iz teksta Etičkih smjernica za pouzdanu umjetnu inteligenciju **:
Privatnost i upravljanje podacima
S načelom sprečavanja nastanka štete usko je povezana privatnost, temeljno pravo na koje sustavi umjetne inteligencije osobito utječu. Sprečavanje narušavanja privatnosti zahtijeva i primjereno upravljanje podacima koje obuhvaća kvalitetu i cjelovitost korištenih podataka, njegovu relevantnost u odnosu na područje u kojem će se sustavi umjetne inteligencije uvoditi, pristupne protokole i sposobnost obrade podataka na način kojim se štiti privatnost.
Privatnost i zaštita podataka. Sustavi umjetne inteligencije moraju jamčiti privatnost i zaštitu podataka tijekom cijelog životnog ciklusa sustava. To uključuje informacije koje je korisnik izvorno dao i informacije koje o korisniku nastanu tijekom njegove interakcije sa sustavom (npr. rezultati koje je sustav umjetne inteligencije stvorio za specifične korisnike ili kako korisnici odgovaraju na određene preporuke). Digitalni zapisi o ljudskom ponašanju mogu sustavima umjetne inteligencije omogućiti donošenje zaključaka ne samo o sklonostima pojedinaca nego i o njihovoj spolnoj orijentaciji, dobi, spolu, vjerskim ili političkim stajalištima. Kako bi se pojedincima omogućilo povjerenje u proces prikupljanja podataka, mora se osigurati da podaci koji se o njima prikupe ne budu upotrebljavani da bi ih se nezakonito ili nepravedno diskriminiralo.
Kvaliteta i cjelovitost podataka. Kvaliteta korištenih skupova podataka iznimno je važna za učinkovitost sustava umjetne inteligencije. Kada se prikupe, podaci mogu sadržavati društveno konstruirane pristranosti, netočnosti i pogreške. To se pitanje treba riješiti prije bilo kakvog treninga s bilo kojim skupom podataka. Usto, mora se osigurati cjelovitost podataka. Unos zlonamjernih podataka u sustav umjetne inteligencije može promijeniti njegovo ponašanje, osobito u slučaju samoučećih sustava. Procesi i skupovi podataka koji se upotrebljavaju moraju se ispitati i evidentirati u svakom koraku, kao što su planiranje, trening, ispitivanje i uvođenje. To bi se trebalo primjenjivati i na sustave umjetne inteligencije koji nisu razvijeni interno nego su nabavljeni negdje drugdje.
Pristup podacima. U svim bi organizacijama koje obrađuju podatke pojedinaca (neovisno o tome je li netko korisnik sustava ili nije korisnik) trebalo uspostaviti protokole podataka za upravljanje pristupom podacima. U tim bi protokolima trebalo biti opisano tko može pristupiti podacima i u kojim okolnostima. Pristup bi se trebao odobriti samo kvalificiranom osoblju s kompetencijama kojem je pristup podacima pojedinaca potreban.
Svi gore razloženi elementi toga zahtjeva odjednom dobivaju jako plastičan primjer u mobilnim aplikacijama kojima bi se pratilo širenje i suzbijao Covida-19.
Iznimno nam je važno da se naši podaci skupljaju tako da nam njihovim prikupljanjem ne nastane šteta koja se manifestira prekomjernim narušavanjem naše privatnosti te zloupotrebom podataka suprotno svrsi za koju su se isti prikupljali. Po mome mišljenju preduvjeti za to su: (I) maksimalna transparentnost, (II) edukacija nas kao krajnjih korisnika o pravnom entitetu/instituciji koje takve podatke skuplja, (III) jasan doseg i svrha takvog skupljanja podataka (sadržajem i kvalitetom podataka koje ustupamo), (IV) određeno trajanje takve mjere skupljanja te elementi za ukidanje takvih mjera, (V) mogućnost prigovora ili upita u slučaju nedoumice i sumnje u zloupotrebu te (VI) postojanje neovisnog nadzornog tijela koje će kontrolirati i ocijeniti postupanje pravnog entiteta/institucije koje naše podatke prikuplja i koristi odnosno dalje obrađuje.
Naravno, ispunjenje svih gore navedenih zahtjeva nije jednostavno i dodala bih da je uz sve to ključna i angažiranost svakog od nas i spremnost na edukaciju te agilnost i aktivna odgovornost (eng. accountabilty) pri korištenju i upotrebi takvih aplikacija.
Upravo su se pitanja transparentnosti i etike iskristalizirala kao dva ključna pojma na panelu na kojem su ugledni stručnjaci u okviru Hrvatske udruge za umjetnu inteligenciju (CroAI) razgovarali na temu zaštite privatnosti i upravljanja podataka neposredno prije pisanja ovog teksta. Panelistima i svima nama jasno je da se svijet nepovratno promijenio i da se rapidno mijenja uslijed ovih izvanrednih okolnosti te da svatko od nas u manjoj ili većoj mjeri svjesno ili nesvjesno koristi tehnologije i ustupa svoju privatnost. Nadalje, svaki od nas u današnje vrijeme ima tzv. digitalnu auru, da citiram pojam koji je na panelu koristio kolega odvjetnik Mladen Vukmir. Upravo ta digitalna aura predstavlja naš digitalni otisak, koji ostavljamo u svijetu tehnologije i koja nas ima sposobnost nadživjeti.
Sve su to novi pojmovi i dileme s kojima se kao pojedinci i društvo tek susrećemo. Smatram da o svemu tomu trebamo na otvoren i demokratski način razgovarati te odlučiti u kojem smjeru i na kojim etičkim principima želimo graditi naše društvo danas. Svi koristimo tehnologiju i uživamo u njenim blagodatima te želimo da se naše gospodarstvo što više temelji na takvim uslugama i proizvodima koje imaju visoku dodatnu vrijednost. Želimo da naše kompanije sudjeluju u globalnoj utakmici i da hrvatski stručnjaci ravnopravno kreiraju takve tehnologije sa svojim kolegama diljem svijeta na korist cijelog čovječanstva.
Vjerujem da je moguće pomiriti zahtjev za privatnošću i upravljanjem podacima na transparentan i etičan način te ostvariti komercijalnu dobit za kreatore takvih tehnologija i korist za krajnje korisnike. To nije jednosmjerna ulica. Potrebna je aktivna suradnja svih dionika, nas korisnika, kreatora takvih sustava i tijela javnih službi te promišljeni dijalog i stalno preispitivanje statusa quo i zajednička težnja za izvrsnošću. A vas pozivam da razmislite i zauzmete stav o cijeni svoje privatnosti.
*https://ec.europa.eu/info/sites/info/files/recommendation_on_apps_for_contact_tracing_4.pdf
