Sigurnost je u današnje vrijeme veoma tražena roba. Želimo osigurati da sve što poduzimamo, sve što nas okružuje, čemu smo izloženi i mi i naši bližnji, bude provjerljivo, utemeljeno na točnoj prosudbi, ponovljivo i da ne nanosi štetu, već da donosi korist. Zahtjevi su to koji se stavljaju i pred sustave umjetne inteligencije, a svaka osoba koja razvija, dizajnira i koristi takve sustave želi ih imati zadovoljene. Stoga je tema današnjeg teksta upravo taj drugi zahtjev za tehničkom otpornošću i sigurnošću, onako kako je opisan prošle godine u dokumentu Etičke smjernice za pouzdanu umjetnu inteligenciju.
Kako polako dolazimo do trenutka kada nam trebaju određena minimalna tehnička znanja za razumijevanje i svjesnije korištenje umjetne inteligencije, moja je osobna preporuka da odvojite vrijeme i poslušate javno dostupan tečaj pod nazivom AI FOR EVERYONE, koji predaje dr. Andrew Ng, globalni stručnjak u umjetnoj inteligenciji, a koji je javno dostupan na platformi Coursera. Taj tečaj na jednostavan i razumljiv način pojašnjava temeljne pojmove vezane uz umjetnu inteligenciju te sadašnji status razvoja i tehnologija koje se koriste, a važne su za sve nas koji se susrećemo s umjetnom inteligencijom ili je želimo uvesti u svoje poslovanje.
Vratimo se na temu današnjeg teksta i razložimo pojmove koje terminologija Europske unije veže uz zahtjev Tehničke otpornosti i sigurnosti (eng. Technical robustness and safety), uključujući otpornost na napade i sigurnost, rezervni plan i opću sigurnost, točnost, pouzdanost i ponovljivost, a koje u cijelosti citiram u nastavku*:
Tehnička otpornost ključna je sastavnica postizanja pouzdane umjetne inteligencije, a usko je povezana s načelom sprječavanja nastanka štete. Tehnička otpornost zahtijeva razvoj sustava umjetne inteligencije primjenom preventivnog pristupa rizicima tako da se oni ponašaju pouzdano na predviđeni način, uz smanjenje nenamjerne i neočekivane štete i sprečavanje neprihvatljive štete. To bi se trebalo primjenjivati i na moguće promjene u njihovu radnom okružju ili prisutnost drugih agenata (ljudskih ili umjetnih), koji mogu biti u kontradiktornoj interakciji sa sustavom. Usto, trebalo bi osigurati i tjelesni i duhovni integritet ljudi.
Otpornost na napad i sigurnost. Sustavi umjetne inteligencije, kao i svi softverski sustavi, trebali bi biti zaštićeni od ranjivosti zbog kojih ih protivnici mogu iskoristiti, npr. hakiranje. Napadi mogu biti usmjereni na podatke (onečišćenje podataka), na model (curenje iz modela) ili na temeljnu softversku i hardversku infrastrukturu. Ako dođe do napada na sustav umjetne inteligencije, npr. zlonamjernih napada, mogu se promijeniti podaci i ponašanje sustava, zbog čega sustav može donijeti drugačije odluke ili se može potpuno isključiti. Sustavi i podaci mogu se oštetiti zlonamjernim djelovanjem ili izlaganjem neočekivanim situacijama. Nedovoljni sigurnosni procesi također mogu dovesti do pogrešnih odluka ili čak do fizičke štete. Da bi se sustavi umjetne inteligencije smatrali sigurnima, trebalo bi uzeti u obzir moguće nepredviđene primjene umjetne inteligencije (npr. primjene s dvojnom namjenom) i mogućnost da zlonamjerni subjekti zloupotrijebe sustav umjetne inteligencije. Trebalo bi poduzeti mjere da se to spriječi i ublaži.
Rezervni plan i opća sigurnost. Sustavi umjetne inteligencije trebali bi imati zaštitne mjere koje omogućuju rezervni plan u slučaju problema. To može značiti da se sustavi umjetne inteligencije prebace sa statističkog postupka na postupak koji se temelji na pravilima ili da traže ljudskog operatera prije nego što nastave s radnjom. Mora se osigurati da sustav napravi ono što treba bez nanošenja štete živim bićima ili okolišu. To uključuje smanjenje nepredviđenih posljedica i pogrešaka. Usto, treba uspostaviti i procese za pojašnjenje i procjenu mogućih rizika povezanih s upotrebom sustava umjetne inteligencije u različitim područjima primjene. Potrebna razina sigurnosnih mjera ovisi o ozbiljnosti rizika koji sustav umjetne inteligencije predstavlja, a ona ovisi o mogućnostima sustava. Ako se može predvidjeti da će razvojni proces ili sam sustav biti povezani s velikim rizicima, ključno je proaktivno razviti i ispitati sigurnosne mjere.
Točnost. Točnost se odnosi na sposobnost sustava umjetne inteligencije da donese točne prosudbe, na primjer da točno klasificira informacije u pravilne kategorije, ili na njegovu sposobnost donošenja točnih predviđanja, preporuka ili odluka na temelju podataka ili modela. Izričit i dobro oblikovan proces razvoja i procjene može podržati, umanjiti i ispraviti nenamjerne rizike od netočnih predviđanja. Ako se povremena netočna predviđanja ne mogu izbjeći, važno je da sustav može naznačiti vjerojatnost pojave tih pogrešaka. Visoka razina točnosti posebno je važna u situacijama u kojima sustav umjetne inteligencije izravno utječe na živote ljudi.
Pouzdanost i ponovljivost. Iznimno je važno da se rezultati sustava umjetne inteligencije mogu ponoviti i da su pouzdani. Pouzdan sustav umjetne inteligencije sustav je koji pravilno radi s nizom ulaznih informacija i u nizu situacija. To je potrebno radi preispitivanja sustava umjetne inteligencije i sprečavanja nenamjerne štete. Ponovljivost opisuje ponaša li se test umjetne inteligencije na isti način kada se ponovi u istim uvjetima. To znanstvenicima i tvorcima politika omogućuje da točno opišu što sustavi umjetne inteligencije rade. Spisi o replikaciji mogu olakšati proces ispitivanja i ponavljanja ponašanja.
Sve gore navedene aspekte tehničke otpornosti osobito je važno imati na umu, osvijestiti ih i adresirati, odnosno izbjeći kao potencijalne rizike u mjeri u kojoj je to moguće, ovisno o statusu ciklusa pojedinog sustava umjetne inteligencije te stalno raditi na njihovim preispitivanju i doradi.
Gideon Brothers i Danica Kragić Jensfelt
Iskoristila bih priliku da vam skrenem pozornost na uspješnu priču iz Hrvatske, koju vodi trgovačko društvo Gideon Brothers, koje razvija sustave za umjetnu inteligenciju i robotiku te razvija naprednu tehnologiju autonomije, kombinacijom dubinskog učenja i vizualne percepcije. Njihovi roboti se već koriste u Hrvatskoj za automatizaciju logističkih operacija.
Upravo je iz primjera Gideon Brothersa jasno kako je implementacija umjetne inteligencije kroz robote pomagače, koji surađuju s ljudima u svom postojećem poslovnom okružju, omogućila kompanijama da bolje odgovore na izazove rasta poslovanja, nemogućnost pronalaska radnika i upravljanja resursima te su takozvani 3D poslovi (eng. dirty, dull and dangerous) automatizirani, a ljudi koji su prethodno obavljali takve zadatke, surađuju s robotima i mogu koristiti svoje sposobnosti za stjecanje novih znanja i vještina koje će im omogućiti da rade kreativnije i zanimljivije poslove.
Razina tehničke otpornosti, sigurnosti, točnosti, pouzdanosti i ponovljivosti koje ti roboti ispunjavaju, upravo odgovara na izazove koje ovaj zahtjev u sebi sadržava, a možete samo zamisliti kolike i kakve sve izazove robot donosi u okružje puno ljudi i složenih tehničkih zadataka.
A kad smo već kod robota, htjela bih vas upoznati i/ili podsjetiti na našu Riječanku Danicu Kragić Jensfelt, vrhunsku svjetsku znanstvenicu koja živi i radi u Švedskoj te predaje na Kraljevskom institutu za tehnologiju. Upravo profesorica Kragić Jensfelt, kao direktorica centra za autonomne sustave, radi na učenju robota ljudskom ponašanju. Pogledajte na linku video o tom procesu: https://www.youtube.com/watch?v=wzGP8vQa43c&feature=youtu.be
Svi elementi tehničke otpornosti koje smo gore nabrojali nakon pregleda toga videa dobivaju kontekst i postaje jasno zašto je važan sustav umjetne inteligencije, koji je implementiran u robotu koji pomaže bolničkom osoblju podići pacijente i smjestiti ih u krevet ili na bolnička kolica. Osigurati da je takav robot u stanju prepoznati ljude i objekte koji ga okružuju, da zna procijeniti situaciju i trenutak kada je sigurno podići pacijenta, da surađuje s bolničkim osobljem i pacijentom na siguran način, da su svi podaci koje ima o pacijentu i okolini utemeljeni na točnoj prosudbi i sigurni od vanjskih napada te da se te radnje ponovljive, samo su neki od izazova s kojima se dizajneri i kreatori takvih robota susreću. Nedvojbeno je da je korist od takvog robota velika jer osigurava da težak i opasan posao podizanja pacijenta bude odrađen bez angažiranja fizičke snage bolničkog osoblja na siguran, predvidljiv i ponovljiv način.
Moje je duboko uvjerenje da alati koje već danas koristimo i one za koje znamo da se razvijaju te ubrzano implementiraju u naša privatna i poslovna okruženja, nose mogućnost još većeg napretka, dostupnosti izbora i blagostanja cijelom čovječanstvu. Ono što je veliki izazov jest da svatko od nas mora odvojiti vrijeme i nikada ne smije prestati učiti i propitivati sve te tehnologije, kako bi se one zaista koristile na dobrobit čovječanstva i kako bismo kao društvo osigurali da nitko ne bude isključen iz tih koristi.
