Dan Podjed
Na nedavni razstavi v Ljubljani z naslovom Izvor prihodnosti, ki je predstavila petdeset let razvoja umetne inteligence v Sloveniji, so bile med razstavljenimi artefakti tudi knjige, ki so vplivale na pretekle generacije razvijalcev orodij umetne inteligence (UI). Med razstavljenimi knjigami niso bili le učbeniki, temveč je bil med njimi tudi lastnoročno podpisan izvod romana Isaaca Asimova, enega najplodovitejših avtorjev znanstvene fantastike, ki je že sredi 20. stoletja razmišljal o odnosu med ljudmi in inteligentnimi stroji ter predstavil tri temeljna etična pravila ("zakone"), ki naj bi se jih držali roboti.
V času digitalne preobrazbe ter vnovičnega razcveta UI po obdobjih stagnacije in razočaranj, ki so jim nekateri rekli tudi zime, postajajo znova aktualna vprašanja etike, na katera je opozarjal Asimov in ki so povezana s pravili delovanja UI ter z njenim snovanjem. Medtem ko hiter napredek generativne UI poganja nesluten vzpon digitalne infrastrukture, ki omogoča javno dostopne klepetalnike, kakršni so ChatGPT, Claude in Gemini, razprave o etiki in načinih sobivanja s tehnologijami naglemu razvoju vse težje sledijo. Dodatna težava je, da odnos ljudi do tehnoloških inovacij pogosto bolj kot znanstvene analize oblikujejo kulturni imaginariji, ki temeljijo na znanstvenofantastičnih filmih in serijah, kot so Terminator, Matrica, Ona, Ex Machina in Črno ogledalo. Tudi slovenska popularna kultura ni izjema – še vedno se spomnimo, na primer, govorečega računalnika Vedija iz filma Poletje v školjki. Vsi ti in mnogi drugi medijski produkti vplivajo na sprejemanje in zavračanje UI v javnosti ter na naraščajoči strah, da nas bodo stroji postopno – ali celo čez noč – izrinili in zavzeli naše mesto.
Umetno pamet uvajajmo po pameti
Medijske predstave poleg strahov vendarle odpirajo tudi številna pomembna vprašanja, na katera morata odgovoriti tudi družboslovje in humanistika, na primer: Kako preprečiti, da bi tehnološki pripomočki nadomestili svoje stvarnike? Kako zagotoviti, da UI ne postane samovoljna entiteta, ki začne škodovati človeštvu? V kolikšni meri je smiselno omejevati naprave in programske rešitve ter koliko ustvarjalnosti in samostojnosti jim lahko dovolimo?
Med vzponom ChatGPT-ja in podobnih orodij generativne UI smo ob rob začeli potiskati vrednote, zaradi katerih smo bistveno več kot zgolj inteligentna bitja in jih potrebujemo morda bolj kot kdajkoli: zaupanje, spoštovanje, medsebojno pomoč, strpnost, zmernost
Ob takšnih vprašanjih ne smemo zgolj odmahniti z roko, češ da se jim bomo posvetili v nedoločeni prihodnosti, ko bo tehnološki razvoj dosegel višjo stopnjo, ljudje pa bodo rešitve že vključili v vsakdanje življenje. Točno to napako smo namreč (pre)večkrat storili, nakar se je izkazalo, da tehnologije ne izboljšajo nujno življenja. Lahko se zgodi ravno obratno. Zaradi socialnih omrežij, denimo, nismo postali socialnejši ali bolj povezani. Kvečjemu nasprotno: v marsičem so omrežja družbo razcepila, ljudi pa odtujila, osamila. Podobno se lahko vprašamo, ali smo zaradi pametnih telefonov in podobnih naprav pametnejši. Odgovor je na dlani: ne nujno. Zaradi "digitalnih bergel" si pogosto zapomnimo manj, naša prostorska predstava je slabša, poleg tega pa v povezavi s prekomerno uporabo omrežij te naprave pomembno vplivajo – kot je opozoril Jonathan Haidt v vplivni knjigi Tesnobna generacija – na duševno zdravje in počutje mladih, posebej na t. i. generacijo Z (rojeni med letoma 1997 in 2012), v kateri raziskave zaznavajo mnoge zaskrbljujoče pojave, na primer tesnobnost, depresije, samopoškodovanje in samomorilne misli in vedenja.
Kako naj ostanemo ljudje
Kako torej uvesti UI v življenje in delo, da bomo ob njej ostali misleči in razumni ljudje, torej homo sapiens, ter ohranili možnost samostojnega odločanja? In kako lahko med digitalno preobrazbo ter pospešenim tehnološkim razvojem ohranimo človečnost in ostanemo ljudje?
Prvič, človeka postavimo v središče razvoja rešitev, ki temeljijo na UI in preobražajo družbo. Naj tehnologije ne nastajajo zgolj za uporabnike, stranke in kupce, temveč za ljudi in z ljudmi. (Iskreno, se kdo navsezgodaj zazre v ogledalo in si reče, da bo boljši uporabnik? Verjetno ne. Si pa zato rečemo, da bomo poslej boljši ljudje.) In naj te tehnologije služijo ljudem – ne pa obratno. Da bi to dosegli, velja spodbujati interdisciplinarna sodelovanja v razvojnih skupinah, v katerih sodelujejo humanisti in inženirji ter družboslovci in naravoslovci, ki imajo ob vsakem razvojnem koraku v mislih ljudi. Še več: rešitve naj ljudje in skupnosti sproti preizkušajo, saj je smiselno vnaprej ugotoviti, kako bodo vplivale na njihov vsakdanjik. Ga bodo izboljšale ali poslabšale? Ob teh postopkih pa ne smemo egocentrično pozabiti na druga bitja in neživo okolje. Rešitve UI namreč že zdaj vplivajo na celoten svet in puščajo za sabo globoko okoljsko sled, saj temeljijo na energetsko izjemno potratni infrastrukturi in globalnih dobavnih verigah.
Drugič, že zdaj se pripravimo na nove načine dela, življenja in sobivanja. Po napovedih institucij, kot so McKinsey Global Institute, OECD in Svetovni gospodarski forum, bo do leta 2030 zaradi avtomatizacije, robotizacije in orodij UI velik delež obstoječih oblik dela drastično spremenjen. Čeprav se ocene glede na metodologijo razlikujejo, se nakazuje, da bo v tehnološko naprednih regijah – vključno z EU – od 10 do 30 % delovnih nalog ali delovnih mest avtomatiziranih in preoblikovanih, kar bi v slovenskem kontekstu lahko prizadelo med 100.000 in 300.000 zaposlenih v tradicionalnih oblikah dela. Ta spregledani, a pomembni družbeni izziv ne bo omejen le na izgubo delovnih mest, temveč bo vključeval tudi razkroj smisla, ki ga delo predstavlja za velik delež prebivalstva. Kaj lahko storimo, preden nas preseneti prihodnost onkraj dela? Nemudoma začnimo prepoznavati nove delovne priložnosti, izobražujmo za delovna mesta prihodnosti in poskrbimo za podporne mehanizme, ki bodo olajšali prehod v novo dobo za tiste, ki utegnejo ostati brez dela in posledično smisla. To pa niso le finančna nadomestila, na primer univerzalni temeljni dohodek, o katerem se v zadnjih letih vse pogosteje razpravlja, temveč tudi vključevanje v programe, kjer bodo ljudje dobili podporo, spodbudo in nov zagon.
Tretjič, poleg inteligence bodimo pozorni na čustva in sočutje. Med vzponom ChatGPT-ja in podobnih orodij generativne UI smo v središče sveta začeli postavljati besedo inteligenca, ki označuje "nadarjenost za umske dejavnosti" (SSKJ). Hkrati smo ob rob začeli potiskati vrednote, zaradi katerih smo bistveno več kot zgolj inteligentna bitja: zaupanje, spoštovanje, medsebojno pomoč, strpnost, zmernost … Takšne vrednote potrebujemo morda bolj kot kdajkoli. V času epidemije osamljenosti, ki jo tudi po opozorilih Svetovne zdravstvene organizacije doživljamo v zadnjih letih, se osamljeni ljudje namreč po sočuten nasvet pogosto prej zatečejo h klepetalniku kot prijatelju. Približno tretjina najstnikov, recimo, uporablja klepetalnike za socialno interakcijo, pogovor in vzpostavljanje odnosov, pri čemer se nekateri nanje obračajo tudi po nasvet ali čustveno podporo, včasih celo glede problemov, o katerih ne govorijo z bližnjimi. Zaradi tovrstnih opozorilnih izsledkov velja vnaprej razmisliti, kako in kdaj uvajati digitalna orodja v vzgoji in izobraževanju ter tudi v vsakdanjem življenju, da UI ne bo izrinjala medčloveških razmerij.
Četrtič, pridržimo si pravico do odklopa od tehnoloških orodij. Ta pravica je tako elementarna in hkrati univerzalna, da bi jo lahko vpisali v ustavo, saj nam zagotavlja samostojno razmišljanje in sodelovanje. Če si danes še predstavljamo, da te pravice nikakor ne moremo izgubiti, lahko pomislimo, kako blizu – dejansko vedno pri roki – so nam že zdaj naprave, s katerimi brskamo po podatkih in s pomočjo katerih postaja UI instantni nadomestek za nekatere oblike druženja in ustvarjanja. Tudi zato je nujno, da se otroci in mladi učijo razmišljati in ustvarjati tudi sami, ne zgolj z uporabo UI.
Petič, bodimo zgled in vzor na področju etične uporabe UI. Ni treba, da smo v Sloveniji gledalci, ki od daleč spremljamo, kako po svetu razvijajo tehnologije in rešujejo omenjene izzive. Nasprotno: prav na področju etične uporabe UI smo lahko zgled tako na evropski kot svetovni ravni, saj imamo izjemne strokovnjake tako za etiko kot UI. Zakaj ne bi tega povezali in vzpostavili pilotne projekte v organizacijah in mestih, s katerimi bi empirično pokazali, kako se lahko pripravimo na prihodnost? Zakaj ne bi izrabili najboljšega, kar nam nudi UI, da postanemo boljša družba? Seveda se sliši kot utopija v svetu, ki je – vsaj po zaslonu – videti precej mračen. A ravno zato velja storiti korak k svetlejši prihodnosti, v kateri bomo ljudje tisti, ki bomo vzpostavili pravila za sobivanje s tehnologijami, kakršna si je zamislil že Asimov, in odločali o lastni prihodnosti.
Robot in krof
Trije zakoni robotike, ki jih je v svojih romanih uvedel Isaac Asimov (1920–1992), so naslednji:
1. Robot ne sme poškodovati človeka ali s svojo nedejavnostjo dopustiti, da se
človeku zgodi kaj slabega.
2. Robot mora ubogati ukaze, razen če so v nasprotju s prvim zakonom.
3. Robot mora varovati svoj obstoj, razen če je to v nasprotju s prvima dvema
zakonoma.
Kot se izkaže v delih, poznanih tudi slovenskemu občinstvu, na primer Golo sonce, Jeklene votline in Roboti jutranje zore, lahko takšna preprosta in jasna pravila vodijo v številne nenavadne zaplete, s katerimi se zdaj ukvarjajo tudi razvijalci UI. Kaj pomeni, recimo, da robot ne sme dopustiti, da bi človek utrpel škodo? Mu lahko postreže masten krof, če mu to dejansko škodi? Ga mora, potem ko ga snede, priganjati, naj pol ure telovadi? Mu mora iz rok izbiti cigareto, takoj ko si jo prižge? Dilem je, kot hitro spoznamo, cel kup.
Kakšni ljudje postajamo?
Osrednji etični problem (beseda izziv je v tem primeru preprosto premila), ki se mu moramo nemudoma posvetiti tudi v Sloveniji, pa je, kako ohraniti človečnost v času umetne inteligence. Odgovor ni enoznačen in njegovo reševanje ne bo preprosto. Smo dividuumi, bitja, ki obstajamo skozi odnose z drugimi. In prav zato, ker smo znali stopiti skupaj in si pomagati, smo kot vrsta preživeli stotisoče let. Če se bomo še naprej povezovali, bomo lahko ukrojili prihodnost po meri ljudi – tudi s pomočjo UI – in vzpostavili pravila sodelovanja s tehnološkimi orodji, ki nam bodo pomagala graditi boljšo družbo, boljši svet.
Bistveno vprašanje zato ni, ali bomo živeli z umetno inteligenco, temveč kakšni ljudje bomo z njo postali.
* Besedilo temelji na prispevku, ki ga je dr. Dan Podjed predstavil na 6. predsedničinem forumu s tematskim naslovom Umetna inteligenca: med napredkom, odgovornostjo in novo pismenostjo, ki je bil 7. maja na Brdu pri Kranju. Dogodek je bil posvečen etičnim in družbenim vprašanjem umetne inteligence ter njenemu vplivu na delo, izobraževanje in vsakdanje življenje.
