U SVJETLU TEHNOLOŠKOG RAZVOJA: Važno je znati da stroj ostaje stroj
Tehnološki razvoj, digitalna transformacija, umjetna inteligencija i rizici koji s time dolaze među najvažnijim su temama u povijesti čovječanstva i odabir smjera imat će dugoročne globalne implikacije.
“Danas jednim klikom možemo nešto izgraditi, ali i srušiti. Izazovi su golemi i potrebno je multidisciplinarno djelovati da se nešto pozitivno ne pretvori u nešto negativno i rušilačko“, opisuju sudionice konferencije doc. dr. Irena Petrijevčanin Vuksanović, voditeljica upravnog odbora Centra za umjetnu inteligenciju i kibernetičku sigurnost Sveučilišta u Rijeci i državna tajnica u MUP-u, i prof. dr. sc. Sanja Barić, predstojnica Katedre za ustavno pravo Sveučilišta u Rijeci, kontekst u kojemu se nalazimo. Njih dvije, svaka sa svoje specijalističke pozicije – I. Petrijevčanin Vuksanović o temi sigurnosti, a S. Barić o temi ljudskih prava i demokratskih sustava – nastoje upozoriti koliko je važno otvoriti ozbiljnu raspravu o izazovima kako kao društvo ne bismo bili u čudu kad se suočimo s nečim što nas je nadraslo. Digitalna transformacija, dakle, počela je puno prije nego što smo osvijestili da smo postali ovisni o „guglanju“, „tvitanju“, „fejsbučenju“, „tik-tokanju“, „jutubanju“… Družimo se u virtualnom svijetu, čim upišemo neki www, dobivamo personalizirane sugestije o tome koju bismo knjigu trebali pročitati, koji film pogledati, koja je politička opcija najzanimljivija na sceni… Veliki algoritamski brat dosljedno slijedi sva naša pretraživanja na mrežama i nudi nam ono što smatra da nam je potrebno. I bez obzira na to što i digitalni laici danas znaju da sami hranimo „zvijer“ koja nas nadgleda, i dalje to čine potpuno dobrovoljno, ne razbijajući glavu rizicima koje donosi tehnološka budućnost. A oni su važni, budući da se tehnološka rješenja utemeljena na umjetnoj inteligenciji sve više integriraju u sustave kojima smo okruženi – od svih vrsta prometa, financija, obrazovnog, zdravstvenog ili obrambenog sustava, komunikacija, elektroenergetske mreže… Pred vratima nam je doba u kojemu će umjetna inteligencija procjenjivati kojeg kandidata ili kandidatkinju je bolje zaposliti, koji lijek propisati nekome tko boluje od neke teške bolesti, kome odobriti ili odbiti operaciju…
Vrijeme koje dijeli svijet od sveobuhvatne penetracije umjetne inteligencije u sve pore ljudskog djelovanja potrebno je iskoristiti kako bi se postavili osigurači koji će zajamčiti opstanak vrijednosti i prava na kojima se temelji globalna demokratska zajednica. Zaštitne brane trebale bi osigurati da, primjerice, umjetna inteligencija ne bude projektirana tako da diskriminira neku osobu zato što je žena, zato što ima previše godina, zato što nema „ispravnu“ seksualnu orijentaciju, zato što nema djecu, zato što ima previše djece, zato što je samohrani roditelj, zato što je „pogrešne“ vjere ili nacionalnosti, zato što nije „pravog“ političkog smjera, zato što je previše bolesna da bi je se isplatilo liječiti…
Ako postoji ikakva šansa da ljudski rod sačuva dosegnutu razinu ljudskih prava i opstane unatoč mnogobrojnim rizicima koje nosi umjetna inteligencija, a koji se sad samo naslućuju, iznimno je važno dubinsko poznavanje prava i razumijevanje društvene okoline, i same digitalne tehnologije. Danas imamo dihotomiju između ubrzanog razvoja digitalnog svijeta i (ne)mogućnosti institucija, zajednica i pojedinaca da apsorbiraju sve te naizgled neograničene mogućnosti. Jednostavno rečeno, pravo služi očuvanju pravne sigurnosti i nužno mora biti konzervativno u smislu trajanja i primjene pravila. Najveći je izazov odgovoriti na pitanje kako nešto što je inherentno stabilno i sporo, kao što je pravo, može odgovoriti na nešto što je inherentno munjevito, a umjetna inteligencija razvija se brže od čovjekovih spoznaja… – govori prof. Barić.
*Online svijet u osnovi je bipolaran, preoblikuje kolektivnu svijest i stvara drukčije generacije. Danas prolazimo kroz evoluciju od homo sapiensa do tehno sapiensa. „Kiborgiziramo“ se, ali živimo u uvjerenju da smo slobodni. Umjetna je inteligencija toliko prisutna da je i ne primjećujemo. Gotovo svaki proizvod dizajniran je u suradnji ljudi i umjetne inteligencije, izrađen u automatiziranim tvornicama. Netko je rekao da, kad bi svi sustavi umjetne inteligencije počeli štrajkati, naša bi civilizacija stala… Očekuje se da će ubrzo umjetna inteligencija ući u širu uporabu. To je neminovno, no nitko nije razradio sve moguće negativne scenarije. Važno je znati da stroj ostaje stroj i može simulirati čovjeka samo ako dobiva tu moć od samog čovjeka. Čovjek ostaje čovjek, ali istodobno može sebe pretvoriti u stroj. Moć ostaje u rukama čovjeka, a on je može iskoristiti jednako za dobro ili za zlo. To ovisi o svijesti i savjesti svakog pojedinca koji ima danu moć u danom trenutku – kaže dr. Petrijevčanin Vuksanović.
Digitalna transformacija najprije se primjećuje na tržištu rada. Mnogi se poslovi automatiziraju, što utječe na radnopravne odnose, a oni su pak vezivno tkivo društva. O budućnosti rada i radnopravnih odnosa ovisi sudbina i smjer razvoja socijalnih sustava i obiteljskih odnosa, ali i primjena ustavnih načela i tradicionalnih postupovnih jamstava. Umjetna inteligencija danas je ugrađena u aktivnosti u kojima je građani s laičkim spoznajama o digitalizaciji ne bi očekivali. Recimo, Kina tvrdi da je sposobna odgovoriti na čak 30.000 pravnih problema pomoću sustava umjetne inteligencije u kojemu su pohranjeni podaci i rješenja. U Australiji pak pomoću umjetne inteligencije osigurano je pravno savjetovanje za postupke diobe imovine pri razvodu braka… Umjetna inteligencija u pravosuđu korisna je kod tipskih i tehničkih predmeta, rasterećuje suce, pojeftinjuje pristup pravosuđu, neki će reći i da je neovisan arbitar… No prestaje biti korisna čim dođemo do ljudskosti, savjesti, namjere, dostojanstva… Osim toga, zahvaljujući podacima koji se u njoj automatski pohranjuju privođenjem nekih pravnih postupaka kraju, umjetna inteligencija ponavlja ugrađene pogreške i predrasude, ona se ne može automatski prilagoditi evoluciji socijalnih normi u društvu… – govori prof. Barić.
Kad je riječ o sigurnosnim izazovima, oni se mogu strukturirati kao opasnosti za pojedince i korisnike online usluga, prijetnje za tvrtke te sigurnosne rizike za sustave kritične infrastrukture i podataka koje imaju sve države i javni sustavi bez iznimke, ističe dr. Petrijevčanin. Dodaje da je regulacija vruć krumpir svim demokratskim političkim zajednicama. Europska komisija je u travnju 2021. godine predložila prvi regulatorni okvir o umjetnoj inteligenciji kako bi stavila određena ograničenja za sustave koji predstavljaju rizik za sigurnost i temeljna ljudska prava. Primjerice, zabranjeno je korištenje umjetne inteligencije za manipuliranje ljudskim ponašanjem. No, procjenjuje se da će očuvanje individualne sigurnosti i ljudskih prava biti teško izvedivo bez snažnijeg usporavanja dinamike inovacija… Tu se pak može očekivati otpor, jer istraživači ne žele ograničenja. Već danas, recimo, ima znanstvenika, vlada i korporacija koje žele što brže izgraditi neuromorfnu računalnu arhitekturu, a neuromorfni inženjeri rade na čipovima koji oponašaju sposobnost ljudskoga mozga.
*O mozgu se više ne razmišlja kao o računalu, cilj je izbrisati granicu između mozga i računala. Za simulaciju jedne sekunde aktivnosti mozga računalu je potrebno 40 sekundi, ali predviđa se da će, prema Mooreovu zakonu po kojemu se procesorska snaga udvostručuje svake dvije godine, specijalna računala već 2032. godine biti u stanju simulirati cijeli mozak na razini neurona i sinapsi, što može imati bitno veću brzinu rada od biološkoga mozga, kaže dr. Petrijevčanin Vuksanović.
Vruće pitanje u EU je kada i do koje mjere vlasti i druga nadzorna tijela imaju pravo provoditi biometrijski nadzor i pomoću tako prikupljenih podataka identificirati građane. O korištenju tzv. biometrijskih osobnih identifikatora – lica, šarenice oka, uha, otiska prsta ili dlana, govora, hoda, gestikulacije… raspravlja se interno među članicama EU, ali i u tijelima EU. Postoji strah da neće biti povratka ako se ikad prijeđe granica. Za ilustraciju, još prije pet godina bilo je moguće detektirati, lokalizirati i snimiti otiske prstiju pojedinca na udaljenosti od dva metra, i to bez znanja te osobe. Na temelju toga utvrđivan je identitet osobe. Jasno je da je to prijetnja privatnosti i da je podložno zloporabama, budući da otisci prstiju otkrivaju i privatne informacije o osobi, čak i podatke o pojedinim bolestima kao što su Parkinsonova i Alzheimerova bolest – navodi dr. Petrijevčanin kontroverze koje se analiziraju u EU. Tehnološki razvoj, umjetna inteligencija i rizici koji s time dolaze jedna su od najvažnijih tema u povijesti čovječanstva i odabir smjera imat će dugoročne globalne implikacije, upozorava.
Mi kao pojedinci svakodnevno smo nadzirani, posebno u urbanim sredinama. Primjerice, putem televizijskih kamera zatvorenog kruga dok hodamo ulicama grada ili na javnim prostorima, na računalima koja koristimo privatno, ali i na poslu kad poslodavci nadgledaju naš rad, dok navigacijski uređaji u našim automobilima identificiraju našu lokaciju, putem mobitela, dok pružatelji usluga lociraju naše telefone ili kada web-stranice prate naše pregledavanje kako bi se prilagodile našim ukusima itd… Ti se osobni podaci stalno distribuiraju i traju u vremenu i online prostoru, neovisno jesu li lažni ili stvarni. Može ih koristiti svatko tko zna kako. No umjetnu inteligenciju treba gledati ponajprije pozitivno, kao našeg saveznika, kojega je potrebno upotrijebiti na dobrobit svih nas i društava u kojima živimo – govori dr. Petrijevčanin Vuksanović. Demokracija je posebno osjetljiva biljka i potrebno ju je zaštititi s posebnom pažnjom. Poznato je da su tehnološke mogućnosti korištene kako bi se tijekom kampanje za Brexit lažnim vijestima kod građana pojačali strah i bijes te ih se navelo da glasuju za izlazak iz EU. Poznato je i da su rezultati nekoliko predsjedničkih izbora u SAD-u bili pod sumnjom jer se pomoću tehnoloških manipulacija i uplitanjem „tvornica trolova“, između ostalog i iz Rusije, utjecalo na javno mnijenje…
Dokumentarac „Savršeno oružje“ iz 2020. godine, cijenjenog redatelja i novinara Johna Maggija, razotkriva na koje se sve načine tehnologija može zloupotrebljavati u korist političkih ciljeva… Kad je kockarski magnat Sheldon Adelson, koji je uložio oko 100 milijuna dolara u Republikansku stranku kako bi spriječio predsjednika Obamu da osvoji drugi mandat, na jednom panelu rekao da se s Iranom nema što pregovarati o nuklearnom oružju, nego je najbolje baciti im atomsku bombu, iranski je vjerski vođa uzvratio da tom gadu treba odrezati jezik. „Odrezali“ su mu ga pomoću hakera, koji su zlonamjernim kodovima zarazili informatički sustav Adelsonovih kockarnica u SAD-u. Blokada koju su izazvali trajala je nekoliko sati i uz dosta je teškoća prevladana, a magnata je rečenica o atomskoj bombi stajala više od 40 milijuna dolara… Bila je to pokazna vježba da se na takvom udaru mogu naći svi demokratski procesi bilo gdje u svijetu, mogu se dovesti u sumnju birački popisi, moguće je izazvati kaos na biralištima i u konačnici dovesti u pitanje legitimitet bilo kojih i bilo čijih izbora.
*Donedavno je samo uskom krugu ljudi koji prate političke procese bilo poznato u kojoj se mjeri digitalnim tehnologijama utječe na javnost. Slučaj Cambridge Analityca iznio je to na svjetlo dana. Pojednostavljeno, posebno dizajniranom psihološko-statističkom analizom ponašanja korisnika na društvenim mrežama, utvrđivanjem njihovih preferencija i psiholoških okidača, omogućena je manipulacija stanjem svijesti građana… Ti su podaci, naravno, pribavljeni protuzakonito, ali pomoću njih mogu se kreirati kampanje koje će sadržavati poruke za točno definirane ciljane skupine, omogućiti manipulaciju korisnicima društvenih mreža stvaranjem umjetne slike stvarnosti baš za njih – kaže prof. Barić, uspoređujući to s animiranim serijama – “South Park”, u kojoj se pozivalo na seksualne radnje, i “Simpsonovi”, u cilju kampanje „join the navy“…
Utjecaj postojećih digitalnih tehnologija je multidimenzionalan. Ciljaju na osobnost, s idejom da je mijenjaju. I kad nema političkih namjera, društvene mreže imaju ugrađene elemente izravnog utjecaja na bit demokracije. Naime, čak i ako zanemarimo sociološke posljedice manipulacije – osamljivanje, manjak socijalnih vještina, anonimizacija komunikacije, nekažnjeni govor mržnje… sve to ima i neurološke učinke. Mijenja se neuralna struktura čovjeka, nestaje mogućnost fokusiranja pažnje na dulje vrijeme, pojavljuje se potreba za stalnim podražajima… Brojni zaposlenici, zviždači, prokazali su kompanije koje razvijaju i održavaju društvene mreže kao one koji kreiraju softvere vođeni primarno željom za povećanjem profita. Algoritmi koji uvjetuju redoslijed i učestalost prikazivanja pojedinih objava nisu vrijednosno neutralni. Uloga im je da korisnika što dulje zadrže na mreži kako bi se maksimalizirao učinak oglašivača. Kreiranjem nerealne percepcije korisnika da su svi na mrežama ide se prema radikalizaciji i ostrašćivanju. Kompanije o kojima je riječ odbacuju svoju odgovornost i inzistiraju na perverznom širenju koncepta slobode – kaže prof. Barić i stiče da je svako novo tehnološko sredstvo promijenilo društveno i političko djelovanje ljudi.
Današnji razvoj digitalnih tehnologija i umjetne inteligencije izravno utječe na našu osobnost i otvorena su pitanja – tko smo mi danas i tko nas doista oblikuje. Demokracija nužno podrazumijeva svjesne i odgovorne pojedince. Sve nas. Ključno je shvatiti da smo danas više nego ikad pozvani na odgovornost za vlastito razumijevanje svijeta, za vlastito stanje svijesti i za vlastiti doprinos. Mi živimo u stanju „stresa i dezorijentiranosti“, „informacijske pretilosti (infobesity) i zatrovanosti (intoxication)“, upravo u onome što je predvidio Alvin Toffler još 1970. godine u svojem djelu „Future Shock“. Drugim riječima, kao ljudski rod otišli smo jako daleko „izvana“ (tehnologije), a jako smo zaostali „iznutra“ (samospoznaja u mentalnom, emotivnom i duhovnom smislu). Pravna su rješenja bitna, ali za budućnost će biti presudno razumijevanje vlastite odgovornosti i vlastitog bitka u društvu, odnosno samospoznaja i samorazvoj. Ne smijemo više odbacivati osobnu odgovornost, pri čemu ne mislim na pravnu odgovornost, nego na odgovornost osobne razine svakog pojedinca prema sebi, drugima, društvu, životu i cijeloj zemaljskoj kugli – zaključuje prof. Barić.