Umetna inteligenca se vse hitreje razvija iz pomočnika v avtonomnega akterja, ki odloča, deluje in posega v organizacijske procese. Ta prehod v dobo agentne umetne inteligence ne odpira le tehnoloških priložnosti, temveč tudi kompleksna vprašanja odgovornosti, zaupanja in vloge človeka v digitalnem okolju. Ob sočasnem zaostrovanju evropske regulative ter naraščajočih psiholoških pritiskih na zaposlene postaja jasno, da prihodnost ne bo odvisna zgolj od implementacije rešitev, temveč od sposobnosti organizacij, da zgradijo novo »arhitekturo zaupanja«.
O tem, kje so ključna tveganja, zakaj je tehnostres lahko nova varnostna ranljivost in kako naj podjetja uravnotežijo inovacije z dobrobitjo zaposlenih, smo se pogovarjali z Rokom Zupančičem, direktorjem podjetja HCM, in Igorjem Hrastom, direktorjem Inštituta za razvoj in inovacije Ljubljana, ki bosta o teh izzivih govorila tudi na 12. konferenci Dnevi prava zasebnosti in varovanja informacij.
Če smo doslej umetno inteligenco razumeli kot pomočnika, ki odgovarja na vprašanja ali generira vsebino, postajajo novi sistemi vse bolj samostojni. Kdaj pomočnik postane agent – in ali nas mora to skrbeti?
Rok Zupančič: Pomočnik postane agent tisti trenutek, ko preidemo od avtomatizacije preprostih, ponavljajočih se nalog k pravi avtonomiji. Govorimo o t. i. “digitalni delovni sili”, kjer orkestratorji (dirigenti) usmerjajo specializirane agente UI, ki so sposobni samostojno reševati kompleksne procese znotraj organizacije. Za kadrovsko stroko to denimo pomeni sistem, ki samostojno analizira življenjepise, kontaktira primerne kandidate, jim prilagodi razgovore in celo pripravi personaliziran načrt uvajanja. Ali nas mora to skrbeti? Kot kadrovike nas mora predvsem predramiti. Naša vloga se namreč korenito spreminja: iz operativcev postajamo strateški arhitekti in etični varuhi teh hibridnih delovnih tokov. Razumeti moramo namreč razliko med že nekoliko demode ciljem, da moramo poslovanje in državo zgolj “digitalizirati” ter razumevanjem nove dobe. Ta nova doba ne šele prihaja, ampak je tukaj in zdaj. Zato moramo preklopiti na razmišljanje o nujnosti celovite preobrazbe – tako organizacij in države kot predvsem razmišljanja ljudi.
Igor Hrast: Z vidika človekove psihologije nas ta prehod absolutno mora “skrbeti” v smislu, da se nanj proaktivno pripravimo. Ljudje smo biološko omejeni, naš procesni aparat je linearen in podvržen utrujenosti, agentna UI pa eksponentna in neumorna. Ko pomočnik postane samostojen agent, se zaposleni sooči z nečim, kar deluje kot “črna škatla”. Zaposleni ne zmore več predvideti vseh njenih korakov, kar v možganih ustvarja stalni “signal napake” oziroma eksistencialni strah in kronično anksioznost. Ne gre več zgolj za učenje novega orodja, temveč za globoko vprašanje lastne vrednosti v delovnem okolju.
Bo to skrb vsaj deloma odpravil “digitalni omnibus” EU?
Rok Zupančič: Da, Evropski Akt o umetni inteligenci (AI Act) postavlja izjemno pomemben temelj. Kadrovske sisteme z UI (na primer orodja za selekcijo in ocenjevanje) uvršča med sisteme “visokega tveganja” in zanje zahteva strog, zakonsko obvezen “človeški nadzor” (Human-in-the-Loop). Popolnoma pa prepoveduje nesprejemljive prakse, kot so sistemi za prepoznavanje čustev na delovnem mestu ali socialno točkovanje zaposlenih. Zakonodaja nam daje varnostni okvir, v katerem kadroviki postajamo pravno odgovorni nadzorniki tehnologije. Kljub temu pa zakonodaja sama po sebi ne rešuje psiholoških stisk zaposlenih ob uvajanju teh tehnologij – tu morajo nastopiti organizacije same.
Ali Evropa z regulacijo duši inovacije ali z njimi gradi zaupanja v nove tehnologije?
Rok Zupančič: Prepričan sem, da na evropski ravni regulacija gradi zaupanje. Številne analize kažejo, da je transparentna in etična uporaba UI tista, ki na dolgi rok omogoča stabilno rast in implementacijo. Na drugi strani pa imamo v Sloveniji pogosto pojav pretiravanja pri prenosu in implementaciji EU pravnega reda. Na nacionalni ravni večkrat ne znamo optimizirati implementacije regulative v naš pravni red, pretiravamo v regulaciji in s tem dušimo podjetništvo, inovacije ter dodatno obremenjujemo že tako preveč birokratizirano okolje. Ključno pa mora postati zavedanje, da v Sloveniji morda ne bomo razvijali bazičnih tehnoloških rešitev, imamo pa vso potrebno ekspertno znanje, da si rešitve kognitivne UI, ki bo temelj naše prihodnosti, oblikujemo sami. Ni nam potrebno, da kupujemo tuje rešitve, ki – kot je bilo že neštetokrat dokazano – našemu okolju ne bodo ustrezale in nam ne bodo omogočile preboja. Če bomo kupovali tuje UI rešitve, bomo zmeraj le korak za konkurenco, če jih razvijamo sami, smo lahko dva koraka pred njo.
Igor Hrast: Tukaj bi izpostavil prav vlogo zaupanja. Študije kažejo, da je zaupanje v UI ključni mediator, ki določa, ali bo zaposleni stres ob novi tehnologiji dojel kot “oviro”, ki vodi v izgorelost, ali kot “izziv”, ki vodi v aktivno učenje in prilagajanje. Če Evropa s svojimi pravili zaposlenemu zagotovi, da algoritem ne bo zlorabljen na njegovo škodo, s tem niža občutek ogroženosti. Visoko zaupanje zmanjša negotovost, kar zaposlene spodbudi, da s to novo UI tehnologijo sploh začnejo proaktivno sodelovati in jo tudi uporabljati, namesto da jo sabotirajo. Regulacija je torej predpogoj za inovacijo, saj brez zaupanja inovacije pri končnih uporabnikih ne zaživijo.
Ali lahko paradoksalno prav pritisk nenehnih tehnoloških sprememb postane nova varnostna ranljivost organizacij? Izpostavljata pojav tehnostresa, ki ogroža varnost in stabilnost organizacij. Kaj je tehnostres? Kako se kaže?
Igor Hrast: Absolutno. Ta pritisk ni zgolj tehnološki, temveč globoko nevrobiološki. In tehnostres ni zgolj prehodna utrujenost pred ekranom. Gre za globoko psihološko obremenitev nove dobe, pri kateri se posameznik ne zmore več na zdrav način prilagoditi novi tehnologiji. Znanstveniki so zelo natančno določili pet ključnih povzročiteljev tehnostresa, ki se v praksi močno prepletajo: od tehno-preobremenjenosti in tehno-invazije do tehno-nestabilnosti, tehno-kompleksnosti ter tehno-negotovosti. Z varnostnega vidika organizacij so posledice alarmantne. Utrujen in tehnostresiran zaposleni hitreje stori napako ali celo povzroči varnostni incident pri ravnanju s podatki. Še huje – tehnostres lahko vodi v nezavzetost in posledično »tiho odpoved« (silent quitting), kjer opravi le še minimum. Privede lahko celo do namernega zadrževanja specifičnega znanja in najboljših praks. Sodelavci ne delijo več informacij, niti s strojem niti med seboj, ker se počutijo eksistencialno ogrožene. To neposredno uničuje produktivnost, donosnost investicij v novo tehnologijo (ROI) in lahko vodi v enormno povečanje absentizma, kjer smo po hitrosti rasti med državami EU že v samem vrhu, še posebej zaradi psihosocialnih stisk, ki k celotni bolniški odsotnosti v naši državi prispevajo kar med 15 in 20 odstotkov.
Govorita tudi o pomenu »arhitekture zaupanja«. Kaj to pomeni v praksi – kako naj organizacije uskladijo pravno skladnost, tehnološke možnosti in dobrobit zaposlenih?
Rok Zupančič: V praksi arhitektura zaupanja pomeni, da uvedbe agentne UI in drugih tehnologij ne prepustimo le IT-oddelku, ampak gre za sodelovanje IT-ja, pravne službe in HR-a. Organizacija mora najprej vzpostaviti jasen etični in upravljavski okvir. Vključevati mora komunikacijske kampanje o tem, katere naloge bo prevzela UI in kako se bodo vloge zaposlenih preoblikovale, ter transparenten sistem usposabljanja. Zaposleni morajo vedeti, da imajo vedno možnost ugovora ali da nad končno odločitvijo stoji človek, še posebej pri pomembnih kadrovskih ali poslovnih odločitvah.
Igor Hrast: Z vidika psihologije dela pa arhitektura zaupanja pomeni oblikovanje tehnologije in procesov, ki so »psihosocialno resonančni«. Govorimo o novi paradigmi, v kateri je nujno vedno postaviti človeka pred algoritem. Ne moremo več reševati težav zgolj s tem, da zaposlenim občasno ponudimo delavnico o obvladovanju stresa. Vmesniki UI morajo biti oblikovani tako, da delujejo kot “kognitivni oder”, ki zaposlenega vodi, namesto da bi ga preplavil s kompleksnostjo. Drugi ključni del arhitekture zaupanja pa je uvedba celovitih sistemskih rešitev ukrepov podpore zaposlenim – ki so primerljivi z uveljavljenimi svetovnimi dobrimi praksami, na tem mestu bi izpostavil Employee Assistance Program – EAP. Zavedajmo se, da če zaposleni vedo, da imajo varno delovno okolje, vključno s psihološko varnostjo in podporno mrežo, bodo namesto v anksioznost preklopili v radovednost.
Na konferenci Dnevi zasebnosti in varovanja informacij bosta govorila prav o tem iskanju ravnovesja. Katera vprašanja bi si morali udeleženci po vajinem predavanju nujno postaviti?
Rok Zupančič: Ključno vprašanje za vsakega menedžerja ali direktorja bi moralo biti: Ali uvajamo tehnologijo zato, da zgolj režemo stroške, ali zato, da bi nadgradili zmogljivost in kreativnost naših ljudi in s tem razvili boljši produkt oziroma ponudili boljšo storitev? Ter takoj za tem: Ali je naša HR funkcija že opolnomočena za vlogo strateškega arhitekta, ki bo znal zgraditi most med digitalnimi agenti in živimi sodelavci ter vzpostavljanja temu ustrezne organizacijske kulture? Odgovoriti si moramo tudi, ali pri svojem delu že prehajamo od izključno reaktivnega odzivanja k proaktivni strateški analitiki in etičnemu upravljanju sprememb.
Igor Hrast: Delodajalci se morajo zazreti predvsem vase in v kulturo svojih podjetij ter se vprašati: Ali so naši ukrepi na področju duševnega zdravja na delovnem mestu zgolj kljukica na papirju ali pa tudi dejansko živijo v praksi in so celostno integrirani in sprejeti s strani zaposlenih. Se naša sistemska skrb za človeka, za njegovo psihološko varnost in duševno zdravje, razvija z enako bliskovito hitrostjo, kot se v našem podjetju razvija in implementira tehnologija? Če je odgovor ne, se bodo srečali z izjemnim odporom, preobremenjenostjo in finančnimi izgubami ter posledično našo konkurenčnostjo. SDH izobražuje, da mora duševno zdravje zaposlenih postati imperativ pri poslovodenju. Če temu trenutno ni tako, bo pa sedaj to nujnost.
In za konec: katera dilema glede umetne inteligence je danes po vajinem mnenju najbolj podcenjena?
Igor Hrast: Popolnoma podcenjen je psihološki šok, ki ga povzroča erozija profesionalne identitete. Javnost in mediji se večinoma ukvarjajo predvsem s pravno-formalnim strahom: »Ali bom izgubil službo?« Veliko bolj tiha in razdiralna pa je stiska strokovnjaka, ki po petnajstih ali več letih kariernega piljenja svojih kompetenc ugotovi, da lahko algoritem njegovo delo opravi v treh sekundah. Razvrednotenje temeljne veščine posameznika lahko pripelje do občutka nemoči in nekompetentnosti, socialnega umika ter »tihe odpovedi«, česar klasični varnostni mehanizmi v organizacijah sploh ne zaznajo. UI je lahko izjemno orodje, vendar mora človek s svojim znanjem, izkušnjami in presojo ostati pred algoritmom. Zato smo na IRI LJ pričeli z iniciativo »Človek pred algoritmom!«, saj se nam zdi ključno, da v tem kritičnem času ohranimo človeka v ospredju vseh procesov — brez človeka namreč algoritem nima ne odgovornosti ne smisla.
Rok Zupančič: Močno je podcenjena tudi iluzija takojšnje produktivnosti. Veliko vodstev živi v prepričanju, da nakup in implementacija UI orodja avtomatsko pomenita prihranek in skokovito učinkovitost. Pri tem pa spregledajo tisto “mehko” stran – če ljudje tehnologiji ne zaupajo, če čutijo odpor in strah, bodo procese tiho sabotirali in izničili vsakršen načrtovan ROI. Brez ustreznega upravljanja sprememb umetna inteligenca ni konkurenčna prednost, ampak draga tehnološka igrača. Hitro bodo namreč izginila tista enostavna, administrativna dela, na katerih smo se včasih učili osnovnih procesov. Zato moramo kot kadroviki nemudoma prevzeti vlogo svetovalcev upravljanja za preobrazbo kulture podjetja v tej dobi, da ne bomo zamudili prihodnosti.
