Dr. Tomaž Grušovnik je izredni profesor filozofije na pedagoški fakulteti v Kopru, v slovenščini je napisal pet knjig, prejel je več nagrad, kot gostujoči raziskovalec je delal v ZDA, kot predavatelj pa na Norveškem. Od leta 2018 je tudi predsednik Slovenskega filozofskega društva. V obdobju prvega vala epidemije se je zamislil tudi nad vprašanji, koliko smo ljudje dojemljivi za spoznavanje novega, in svoja razmišljanja objavil v knjižici Karantenozofija.
Nove tehnologije segajo v vse pore življenja. Omejevanje epidemije z orodji umetne inteligence nam vsiljuje nova tveganja v kibernetski varnosti. Se jih premalo zavedamo?
Res se teh nevarnosti premalo zavedamo, in sicer zato, ker si ne predstavljamo dobro, kako tesno je informacijska tehnologija prepletena z našimi življenji. Družbena omrežja, igrice in spletišča za predvajanje vsebin še zmeraj razumemo kot televizijo, kot da je klik na film enako, kot je bila včasih izposoja videokasete oziroma zgoščenke, ali kot da je igranje igric na pametnih telefonih enako kot igranje namiznih iger. Toda med televizijo, namiznimi igrami in spletom obstaja bistvena razlika: interaktivnost. Vsi naši kliki se lahko nekje beležijo in programi na podlagi zapletenih ter natančnih statističnih postopkov lahko spremljajo naše obnašanje na spletu.
Ter posledično zbirajo podatke o nas.
Če smo včasih kupili zgoščenko in jo vtaknili v predvajalnik, nihče ni vedel, kdaj in kakšen film gledamo: blagajničar od nas ob nakupu ni zahteval identifikacije in naša izbira se ni nikamor zabeležila. Danes pa je drugače: če si na spletišču izberem ogled filma, se to lahko shrani v zgodovino brskanja in algoritmi lahko izdelajo natančen profil mojih želja, ki jim potem prilagodijo ponudbo. Na podlagi mojega igranja videoigre danes lahko nekdo izdela moj psihološki profil, vidi, katere probleme rešujem bolje in pri katerih sem slabši, saj se lahko vse poteze v igri beležijo. Če v igri sodeluje veliko ljudi, lahko v resnici lastnik igre izvede psihološko raziskavo na delu družbe. To je nekaj drugega kot igranje štiri v vrsto z družinskim članom ali šahiranje za leseno šahovnico s prijateljem.
Še nedavno smo mislili, da smo na spletu nevidni, anonimni. V resnici smo bili neobveščeni in malomarni.
Nekdo je rekel, da s tem, ko brskamo po spletu, splet še toliko bolj brska po nas. Še en primer: če pogledaš v tiskani slovar, kaj beseda pomeni, nihče razen tebe ne ve, da si to storil; takoj, ko pa geslo vtipkaš v brskalnik, se iskanje lahko shrani. Ironično je, da so si včasih ljudje boga predstavljali kot vsevidnega, čeprav jih v njihovi zasebnosti razen lastne vesti ni spremljal nihče, danes pa se je občutek anonimnosti in izgubljenosti razširil, čeprav algoritmi spremljajo vsak naš klik – in tudi dobesedno naš korak, če imamo vklopljen GPS in telefon v žepu.
Kaj menite o aplikacijah, ki naj bi pomagale slediti rizičnim stikom v epidemiji?
Po mojem občutku niso tako zelo sporne, ker je nad njimi vsaj pri nas relativno strog nadzor. Bolj problematične se mi zdijo komercialne aplikacije, ki si jih sami snamemo in potrdimo njihove pogoje uporabe, ne da bi jih zares prebrali, saj za to nimamo dovolj časa, znanja ali volje. S tem se zasužnjimo sami, medtem ko smo na korake, ki jih dela država, vsaj za zdaj še pozorni. Seveda se to lahko spremeni in v tem primeru lahko pride do katastrofe, saj so orodja za strojno zbiranje in analizo podatkov kot »Udba na steroidih« in totalen nadzor posameznikov, nadzor, ki je bistveno globlji od nekdanjih kartotek »sumljivih« državljanov. Danes podatkovno rudarjenje samodejno izlušči podatke za učinkovit nadzor, tajni agenti so tako rekoč algoritmi sami.
V Italiji, na primer, so že v obdobju prvega vala epidemije za nadzor nad kršitvami karantene uporabljali drone, ti so s termokamerami merili, ali imajo ljudje vročino. In kako so to opravičevali? Da je v teh razmerah zdravje ljudi pomembnejše od njihove zasebnosti. Pa je res?
To je lahko zelo problematično početje. V filozofiji poznamo izraz »biopolitika«, uporabljal ga je francoski filozof Michel Foucault, govori pa o tem, da je od obdobja razsvetljenstva – torej nekje od 18. stoletja naprej – politika osredotočena na povečevanje in varovanje »življenja«. Tega čedalje bolj regulira državna administracija, pojavijo se higienske službe, opravlja se nadzor nad rodnostjo in tako naprej. Načeloma to ni nujno narobe, lahko pa vendarle ima hude stranske posledice: tiste, ki so bolni ali se jih sumi, da so kužni, se lahko v imenu javnega zdravja še bolj izolira. Revni ljudje tako postanejo samo še bolj izpostavljeni, medtem ko bogati še bolj bogatijo. Žal se to dogaja tudi med trenutno pandemijo. Če v biopolitiko vključimo še informacijske tehnologije, lahko pristanemo v točki, ko naše zdravje ni več naša zasebna stvar, temveč podatek, ki se statistično obdeluje in bodisi omogoča bodisi onemogoča dostop do dobrin.
Obstajajo celo kamere, ki preverijo, ali nosiš masko. Če imaš povišano temperaturo ali ne nosiš maske, naprava zapiska. Kamera, ki jo nekatera italijanska podjetja že uporabljajo, lahko zapre vrata ali pokliče pristojne. Zdi se, da je epidemija dala krila umetni inteligenci za nadzor nad ljudmi.
V navedenih primerih je odločitev za pridržanje oziroma za odvzem prostosti tako rekoč avtomatizirana, prepuščena stroju. Gre za izjemno sporno prakso, saj vidimo, da se razvoj tehnologije čedalje bolj giblje proti tako imenovanim »avtonomnim sistemom«, napravam, ki so se sposobne same »odločati«. Veliko informacij, ki jih sprejmejo skozi senzorje, preračunavajo in primerjajo s podatkovnimi bazami, nato pa na podlagi vnesenih algoritmov sprožijo posledice. Lahko je to zapiranje vrat, ki ga omenjate, ali pa – v najslabšem scenariju – izstrelitev rakete.
Če odločitve prepustimo algoritmom, se človek lahko izogne odgovornosti ...
Še posebej v vojski je uporaba avtonomnih sistemov zaželena, saj je na podlagi številnih raziskav jasno, da vojaki le stežka ubijajo soljudi, če pa jih že, se velikokrat soočajo s travmami. Zato je razvoj vojaških tehnologij v 20. stoletju šel izrazito v smer umikanja vojaka z bojišča, nadomestili pa so ga najprej topovi dolgega dometa, potem bombniki, v zadnjih dvajsetih letih pa brezpilotni letalniki, ki jih usmerjajo tudi po več tisoč kilometrov oddaljeni operaterji. Naslednji korak, ko človeka popolnoma izvzamemo in krmilo v celoti prepustimo algoritmu, je povsem logičen. A to je zelo problematično, saj s tem začnemo izgubljati temelj moralnosti, namreč posameznikovo odgovornost. Kdo bo odgovoren, če bodo samodejni brezpilotni letalniki koga po pomoti »prepoznali« in ustrelili? Bodo to inženirji, podjetje, naročniki, tisti, ki so povelje izdali, ali tisti, ki ga niso preklicali? V tem vidim enega največjih etičnih izzivov prihodnosti.
Informacijska tehnologija naj bi nam pomagala pri dostopu do znanja, a nam v resnici omejuje miselni prostor. Živimo v informacijskih mehurčkih.
Ljudje raje sprejemamo tiste novice, ki se ujemajo z našimi ustaljenimi prepričanji, kar je pojav, ki ga psihologija imenuje »potrditvena pristranskost«. Vzemiva primer: če so mi bolj všeč psi kot mačke, obstaja zame večja verjetnost, da bom gledal tiste posnetke ali bral besedila, ki bodo izpostavljala prednosti psov, denimo da jih lažje vzameš na dopust, so učljivi in radi v družbi, pri čemer bom prezrl tiste, ki izpostavljajo njihove slabosti, denimo da lahko povzročijo več škode kot mačke. Prezrl bom informacije, da so muce zelo ljubeče, morda bom ignoriral vse podatke o njihovi inteligenci. Kar sva omenila glede psov in mačk, seveda velja za široko paleto reči – od športov do blagovnih znamk, v zadnjem času pa se zdi, da še posebej glede političnih opcij. Če v to zgodbo vključiva še način delovanja naših brskalnikov, ko nam vrnejo zadetke iskanj, potem res pristaneva v potrditveni pristranskosti »na potenco«. Težava je namreč, da si algoritmi zapomnijo, na katere povezave smo najraje kliknili v preteklosti, zato nam ponudijo tiste zadetke, za katere obstaja večja verjetnost, da si jih bomo ogledali.
Zaradi tega lahko nastane vtis, da »večina misli« tako kot jaz, namreč da so psi boljši od mačk in da je to »znanstveno dokazano«.
Resnica je seveda daleč od tega: iskanje mi na podlagi mojih preteklih preferenc preprosto vrne tiste rezultate, za katere obstaja verjetnost, da mi bodo všeč, ne pa objektivnih dejstev. Težava je, da se ne zavedamo, kako naši brskalniki ves čas nosijo »očala« in na svet gledajo skozi filter naših želja, ki so jih razbrali na podlagi naših preteklih dejanj. Gotovo je bila vera v to, da bomo z dostopom do spleta vsi bolje informirani, utopična, če že ne naivna. Zaradi omenjene potrditvene pristranskosti in algoritmov, ki jo spodbujajo, so namreč informacije, ki pridejo do nas, precej prikrojene.
Torej je tudi sedanja politična polarizacija v Sloveniji posredno povezana z našo pristranskostjo pri sprejemanju informacij?
To je dejstvo. Prav do političnih sporočil smo zelo pristranski. Kadar smo priča debatam, povezanim s politiko, postanemo namreč zelo goreči, kar je razumljivo, saj gre za odločitve, ki nam krojijo življenje. Ta gorečnost pa žal prevečkrat izklopi razum in objektivnost ter prižge in podžge pristranskost. Poleg tega je problem še v tem, da ljudje pri svojih pojasnitvah dogodkov predpostavljamo »pravični svet«, kar je lepo pokazal socialni psiholog Melvin Lerner. Kadar, denimo, vidimo brezdomca prosjačiti za denar, radi pomislimo, da gre za nekoga, ki si je tak življenjski slog bodisi »izbral« bodisi »zaslužil«. Zakaj? Eden od razlogov je, da s takšnim razmišljanjem v resnici sebi potrdimo, da smo mi »dobri in pošteni«, hkrati pa se zavarujemo pred mislijo, da lahko tudi nas in naše drage doleti slaba sreča ter pristanemo na cesti.
Na takšna naša iracionalna nagnjenja računa politični marketing, ki pa je, tako kot vsako oglaševanje, danes potenciran s pomočjo informacijskih tehnologij. Znana je afera britanske družbe, ki je zbirala podatke o obnašanju posameznikov na družbenih omrežjih in z njihovo pomočjo potem izrisala njihov osebnostni profil ter odbrala tiste, za katere je obstajala velika verjetnost, da bodo volili opcijo, ki jim bo sugerirana v reklamnih sporočilih. Pri tem se je izkazalo, da lahko algoritmi na podlagi naših klikov in odzivov na družbenih omrežjih precej natančno izrišejo paleto naših osebnostnih značilnosti. In če rečeva precej natančno, s tem misliva natančneje kot starši, partner, otroci ali celo mi sami!
Z vsakim klikom razkrivamo del sebe.
Kadar komuniciramo z drugimi ljudmi, lahko čisto nevede kažemo lepšo ali vsaj drugačno plat, kot kadar mislimo, da smo na spletu sami. Program, ki beleži vse naše všečke, vse objemčke, srčke, solze smeha in žalosti, nas tako rekoč pozna v intimi do obisti, celo bolje, kot se poznamo sami! To je morda presenetljivo, a drži: do sebe smo namreč enako – ali celo še bolj – pristranski kot do drugih. Samo pomislimo, kolikokrat si neupravičeno ne zaupamo ali kolikokrat svoje zmožnosti precenimo. Na podlagi tisočev in tisočev emotikonov, klikov in spletnih prijateljstev lahko z dovršenimi statističnimi orodji programi zelo natančno predvidijo, kdo je najbolj labilen, kdo okleva in za koga obstaja večja verjetnost, da ga bomo prepričali. Oglaševalci so se v političnih kampanjah zato osredotočili ravno na labilne skupine ljudi, ciljali so nanje in upali, da bodo prevesili tehtnico na sponzorirano stran.
Da so nam na nezavedni ravni bolj všeč informacije, s katerimi se strinjamo, so zelo plodna tla za razcvet teorij zarote.
Kot sem skušal pokazati v svoji knjižici Karantenozofija, so teorije zarote lahko posledica naše želje, da bi imeli stvari pod nadzorom. Če namreč mislimo, da gre za zaroto, hkrati predpostavljamo, da ima vsaj nekdo stvari pod nadzorom. Če smo prepričani, da je virus »nastal v kitajskem laboratoriju«, s tem domnevamo, da so ga ustvarili ljudje, ki so ga imeli in ga še lahko imajo pod nadzorom. Že res, da so morda ti ljudje zlobni in da nas morda hočejo pobiti, toda pojav nekdo kontrolira, in če tega zlikovca uspemo nadvladati, bomo stvari vzeli v svoje roke. Vse to je tolažba pred dejstvom, da je v resnici šlo za naključno mutacijo ali nesrečo in da nihče ne ve, kako naj situacijo obvlada. Sam zato po navadi teoretikom zarote odgovorim, da je svet še hujši, kot mislijo: ni tako, da smo na avtobusu, ki bi ga ugrabil kak zlobnež, ki nas želi zapeljati v prepad, temveč tja drvimo brez voznika z nedelujočimi zavorami.
Mar apetiti po družbi, ki bo imela popoln nadzor, v času korone še bolj naraščajo?
Takšne tendence so zmeraj prisotne, je pa res, da včasih nastopijo okoliščine, ki jim dajo zalet. Pandemija je gotovo ena izmed takšnih okoliščin, saj zahteva koncentracijo moči odločanja, ker terja razglasitev in sprejemanje izrednih ukrepov, kar pa zmeraj predstavlja nevarnost zlorabe. Da bi se ji izognili, potrebujemo zelo močno razvite demokratične institucije nadzora, močno civilno družbo, dejavne državljanke in državljane ter neodvisne veje oblasti, kar pa lahko dosežemo le z ustrezno vzgojo in izobraževanjem. Ljudje pogosto mislimo, da demokracija pomeni enkrat na štiri leta oditi na volišče, pozabimo pa, da njene institucije delujejo le, če obstaja ustrezna infrastruktura, ki ljudi pripravi, da se bodo lahko samostojno in kritično odločili. »Ljudska volja« ni nekaj, kar bi bilo tam zunaj kot neko objektivno javno mnenje, temveč je lahko bodisi posledica kritičnih in razmišljujočih državljanov ali pa manipulacij in populizma.
Toda kritične in razmišljajoče državljane (zdaj) kaznujejo. Se bomo začeli bati?
Med osnovno demokratično infrastrukturo lahko uvrstimo vzdušje, v katerem si posamezniki upajo misliti in govoriti naglas. Če tega ni in obstaja strah, da bomo za svoje javno izražene misli kaznovani, pristanemo v enoumju, v konformizmu. Seveda to ne pomeni, da lahko brez dlake na jeziku žalimo ljudi, ki nam niso všeč: to bi bil sovražni govor, ki ga mora demokratična vzgoja ravno sankcionirati. Pomeni pa, da nismo podvrženi avtocenzuri in da smo se pripravljeni pogovarjati, četudi se naša stališča razhajajo.
Je duh ušel iz steklenice in ga ni več mogoče vrniti vanjo? Tehnologija nas je zasužnjila, postali smo služabniki za zbiranje podatkov.
Informacijske tehnologije nam ponujajo fantastične priložnosti, saj nam neverjetno olajšajo komuniciranje in računanje, a vsebujejo tudi pasti. Včasih smo se v znanstvenofantastičnih filmih in grozljivkah naslajali ob scenarijih, ki so prikazovali robote, kako se naenkrat začnejo zavedati sebe in s svojo superiorno inteligenco začnejo zavojevati ljudi. Izkazalo pa se je, da je nevarnost v nekem smislu obratna: da se bomo prostovoljno spremenili v robote in začeli razmišljati kot algoritmi. Tehnologija nas ni zasužnjila tako, da bi nas premagala z zavestjo, temveč nas je spremenila v orodje za vnašanje podatkov. Če želimo v prihodnje brezskrbno uporabljati njene bogate potenciale, moramo prej tehtno premisliti, kako jo uporabiti in čemu naj bo namenjena.
Več zanimivih vsebin si preberite v novi izdaji revije Zarja Jana.
