Pasipylus dirbtinio intelekto (toliau tekste – DI) generuojamiems tekstams, vaizdams, filmukams ir sprendimams, norisi trumpam pristabdyti įsismarkaujančią karuselę ir pakviesti susimąstyti apie potencialias ir jau egzistuojančias šios technologijos grėsmes. Šio teksto tikslas nėra išgąsdinti ar atgrasyti nuo DI naudojimo galimybių – jį rašydama viliuosi paskatinti neskubėti ir pagalvoti, ką gauname mainais už tai, ko netenkame, arba atvirkščiai – ko netenkame už tai, kad kai ką gauname mainais.
Išmanusis telefonas kaip savaimesuprantamybė – jau istorinis ir dabarties faktas
Netolima istorija demonstruoja, kad 2007 m. išrastas išmanusis telefonas per keletą metų visiškai įsismelkė į mūsų kasdienybę ir užvaldė vis daugiau žmonių. Šiuolaikiniai tapatybių tyrimai rodo, kad dalis žmonių savęs nebesuvokia be telefono rankose ar kišenėje. Jis yra tapęs ne tik susisiekimo, darbo ir malonumų priemone, bet ir žmogiškosios savasties dalimi. Tai veda ir prie naujų baimių ar diagnozių atsiradimo. Viena jų yra nomofobija, kuri apibrėžia baimę net ir trumpam likti be telefono. Ši baimė glaudžiai koreliuoja su žmonių amžiumi – jaunesni ją jaučia stipriau ir dažniau. Nomofobija užvaldo žmones pasėdama nerimastingumą bei sustiprindama jausmą, kad telefonas yra ne atskirai funkcionuojantis daiktas, bet su jų kūnais tiesiogiai susietas objektas. Telefonas tampa tarsi nauju žmogaus organu, be kurio sunku įsivaizduoti kasdienius veiksmus. Nors gyvybiškai svarbių funkcijų jis neatlieka, dalis žmonių be jo jaučiasi kaip be rankų, akių, ausų, burnų, orientyrų ar paramos – kažko negalintys, vieniši, apleisti, nepilni. Baimė likti be šio prietaiso kelia paniką, atsiranda kvėpavimo ir kraujospūdžio sutrikimų. Tai psichosomatiniai reiškiniai, kurie labai aiškiai įsispaudžia į žmonių kūnus ir savijautą, tampa ne išgalvota, bet realiai patiriama kančia.
Pamenu, kai išmanieji telefonai pradėjo populiarėti Lietuvoje, prieš jį įsigydama gerokai delsiau. Tai nebuvo maištas ar protestas prieš visus užvaldančią madą – tada dar nejutau aiškaus poreikio jį turėti. Bet pamažu jis augo, nes telefonas tapo svarbiu socialinio gyvenimo mediatoriumi, o palaipsniui virto ir būtina priemone norint pasinaudoti elementariomis paslaugomis – nuo paprasto apsipirkimo ar automobilio parkavimo iki sofistikuotų finansinių paslaugų.
Išmaniojo telefono pavyzdį pateikiu ne šiaip sau. Kadangi mes kaip visuomenė jau turime jo naudojimo patirties ir galime ją vertinti retrospektyviai, mums paprasčiau suprasti, kaip palaipsniui ši mažytė, bet milžinišką galią savyje telkianti technologija įsiskverbė į praktiškai visas mūsų kasdienio gyvenimo sritis, įsiaudė į mūsų socialinį (o gal net fizinį ir psichologinį) audinį ir tapo savaimesuprantamybe.
Stebint visuomenės nerimą dėl eižėjančio žmonių socialumo, augantį sąmoningumą, kad šio mėlyno ekrano poveikis mokinių mokymosi procesui yra veikiau pražūtingas nei prasmingas, daugėjant atvejų, kai psichologų kabinetuose tenka spręsti rimtas asocialumo, agresijos, negebėjimo susikaupti, atminties prastėjimo bei priklausomybių nuo telefonų situacijas, natūraliai kyla klausimas: o jei tokiu pat neapčiuopiamu būdu į mūsų kasdienybę įsisunks ir DI technologija ir netrukus suprasime, kad be jos mes esame kaip be rankų, akių, ausų, burnų, o gal net ir be smegenų ar laisvės? Tai distopinę ateitį programuojantis klausimas – tendencingas, gąsdinantis ir, tikiuosi, nepagrįstas. Bet jei tokia alternatyva egzistuoja, gal vis tik vertėtų ją apsvarstyti?
Sistema žmogui ar žmogus sistemai?
Norint kalbėti apie DI, pirmiausia reikėtų apsibrėžti, kas tai yra šio teksto kontekste. Labiausiai priimtinas atrodo požiūris, kad tai nėra tokia technologija, kurią galėtume grupuoti drauge su kitais patogiais įrankiais, tokiais kaip elektroninis laikrodis, kraujo spaudimo matuoklis, atsuktuvas, spausdintuvas, fotoaparatas, šaldytuvas ar modernus dviratis. Tai yra agentas, kuris, naudodamas mūsų kolektyvinius duomenis, gali savarankiškai priimti sprendimus, kurti ir siūlyti naujas idėjas, išrasti naujus dalykus tiek mene, tiek politikoje, tiek kare – tokiu būdu jis gali generuoti naujus duomenis bei kurti kitokią realybę (Harari 2024). Kitaip tariant, galima manyti, kad kiekviena technologija, egzistavusi iki DI išvystymo, mūsų rankose buvo veikiau prietaisas ir žmonės galėdavo nuspręsti, ką su juo daryti. Atitinkamai DI technologija turi augantį potencialą įvairius sprendimus priimti pati. Šiuo metu DI agentai vis labiau įsiskverbia į įvairias kasdienio gyvenimo sritis – finansų, kultūros, kūrybos, laiko planavimo, santykių, sveikatos, švietimo ar politikos – ir jas transformuoja. Jei virtualiai nukeliausite į banką, turbūt pirmiausia bendrausite su DI pokalbių robotais ir jie „spręs“, kokių paslaugų, investavimo ar skolinimosi galimybių jums pasiūlyti. Jei internetu dalyvausite darbo pokalbyje, neatmestina, kad teks atlikti įvairius testus, kurių metu DI analizuos jūsų emocijas, bendravimo įgūdžius bei reakcijas. Jei padarysite keletą sportinių batelių nuotraukų ir norėsite jas naudoti reklamoje, greičiausiai galutinį sprendimą atiduosite marketingo platformoms, kuriose įvairūs DI algoritmai parinks potencialiai įsimintiniausią, patraukliausią ar neva labiausiai išsiskiriančią nuotrauką. Kol kas nemaža dalis šių agentų paklūsta žmonių suformuotiems principams, pagal kuriuos jie gali veikti, tačiau jau dabar yra atlikta eksperimentų, kurie rodo, kad DI agentai gali iš juos valdančios sistemos „pabėgti“ į nežinomą virtualią teritoriją ir ten pradėti vykdyti savarankiškas komandas.
Kadangi DI agentai yra pajėgūs kurti idėjas, sunku numanyti, kokias jų kūrybos pasekmes mums teks spręsti ateityje, nes to negali suplanuoti net išmaniausi šios technologijos vystytojai. Taigi susiduriame su DI technologijos nenuspėjamumu, o jų manipuliacijų ir haliucinacijų kūrimo galimybės dar labiau sustiprina šios nežinomybės ir chaoso, kurį jau šiandien tenka patirti stebint informacinę erdvę, tikimybes. Taip pat kyla klausimų, kaip žmonėms reikės gyventi pasaulyje, kuriame didžioji dalis tekstų, idėjų, sprendimų, kūrybos, muzikos kūrinių, nuotraukų bus sukurta ne žmonių. Galbūt išsipildys mirusio interneto teorija, kai jame išskirtinai gausius vaizdinės ir žodinės informacijos kiekius, profilius, pokalbius bei komentarus kurs, redaguos ir administruos robotai, tad virtualioje erdvėje žmogui liks vis mažiau vietos. Jau senokai joks žmogus nebegali laimėti šachmatų partijos prieš kompiuterį. O kas nutiks, kai šie laimėjimai persikels į kitas sritis, pvz., rinkimus?
Gana dažnai tokių technologijų grėsmė suredukuojama į švietimo sistemos ar privatumo praradimo rizikas, problematizuojant tai, kad žmonės praras kritinį mąstymą, kūrybingumą, nebegebės rašyti ar vis dažniau susidurs su jautrių duomenų pažeidimais. Tačiau šios technologijos pirmiausia turėtų gąsdinti ne dėl to, kad žlugdo žmonių gebėjimus rašyti ar kelia riziką pavienių asmenų saugumui (nors ir šios grėsmės labai didelės), bet pirmiausia dėl to, kad pasitelkus jas galima masiškai manipuliuoti protais, emocijomis, kurti milžiniškus kiekius dezinformacijos bei propagandos, personalizuojant politines ar ideologines žinutes aktyviai paveikti rinkimų kampanijas. Technologijų neriboja nei laikas, nei galimų kontaktų kiekis, nei sąžinė, nei fizinis kūnas.
Konkurencija su mašinomis
Pastaruoju metu taip pat pastebima, kad dėl spartaus technologinio spurto žmonės vis dažniau susiduria su vėluojančios kultūros reiškiniu. Kultūros vėlavimu vadinamas procesas, kai technologiniai ar materialūs išradimai yra greitesni nei prisitaikymas prie jų. Šis vėlavimas vyksta dėl to, kad materialioji kultūra (daiktai, technologijos, teisės aktai, įstatymai) kinta daug sparčiau nei nematerialioji (idėjos, požiūriai, vertybės, papročiai, santykiai, kalba). Tokiu būdu materialioji kultūra nuolat stimuliuoja kaitą, o nematerialioji, būdama mažiau paslanki, nespėja persiorientuoti prie pakitusių technologinių sąlygų ar infrastruktūrų. Šiame kontekste pastebima, kad mokymosi ar darbo procese žmonių įgyti gebėjimai vis greičiau ir dažniau tampa nebereikalingi, nebespėjama prisitaikyti prie kintančių sąlygų, o specifinės adaptacijos reikalaujantys laikotarpiai tampa vis dažnesni ir intensyvesni. Tai lemia dažnėjančius bedarbystės ir pajamų trūkumo epizodus.
Be to, technologijos labai poliarizuoja darbo rinką – didėja atotrūkis tarp malonių ir bjaurių, kvalifikuotų ir nekvalifikuotų darbų. Tokiame kontekste sparčiai nyksta darbai, kuriuos turi vidutinės kvalifikacijos žmonės. Taigi didžiausius iššūkius dėl automatizacijos ir DI diegimo darbo rinkoje patiria vidutinių gabumų, vidutinių socialinių sluoksnių ar vidutinių galimybių žmonės, kurių yra dauguma. Be to, robotai neserga, neima atostogų, nesiskundžia, o dideliai daliai žmonių tokių problemų kyla. Taigi, matant šias tendencijas darbo rinkoje, kyla bendresnio pobūdžio klausimas: kaip veiks visa visuomenės sistema (mokesčių būdu išlaikomas valstybės bei viešųjų švietimo, socialinių bei sveikatos paslaugų aparatas), jei daugelio žmonių užimtumas taps labai pažeidžiamas ir nestabilus, o visa šiandieninė sistema yra sukurta remiantis stabilaus užimtumo organizavimo formomis?
Nuo dėmesio pritraukimo link intymumo kūrimo
Kitas veiksnys, kurį reikėtų labai rimtai vertinti, yra tai, kas žmones prikausto prie DI technologijų. Jei socialinių tinklų ir masinių informacijos priemonių pagrindinis tikslas – mūsų dėmesys, tai besivystančios DI technologijos vis dažniau taikosi į mūsų emocijas ir intymumo poreikį. Retrospektyviai žvalgydamiesi į praeitį, jau galime įvertinti, kokias pasekmes sukėlė automatizuoti socialinių tinklų ir informacijos sklaidos redaktoriai (algoritmai). Išaugusi poliarizacija tarp įvairių žmonių grupių, dažnėjantys nesutarimai dėl fundamentalių politinių ar socialinių krypčių (pvz. klimato kaitos politikos, socialinės atskirties ar skurdo mažinimo, rasizmo, nelygybės), milžiniškas vertybinis chaosas, kai nebežinoma ir nebesusitariama dėl bendrų dalykų – tik ledkalnio viršūnės, kurios slepia dar kompleksiškesnius procesus, tokius kaip demokratijos erozija ar centralizuotos galios stiprėjimas. Šias pasekmes galime įvardinti stebėdami darbą tokių automatizuotų bei žmogaus komandoms paklūstančių agentų, kurie tik kuravo ir skirstė žmonių sukurtą turinį. Šiandien žengiame į realybę, kai šie agentai patys gali kurti idėjas. Taigi kyla klausimas: jei gana primityvūs dirbtinio intelekto sprendimai visuomenėms atnešė tokių didelių socialinių pokyčių, kokį poveikį gali sukurti neprimityvūs?
Vienas iš atvejų, kuris kelia didžiulį susirūpinimą DI programų gebėjimu kurti intymumą ir šio intymumo poveikiu vienišiems žmonėms, o ypač paaugliams, yra 2024 m. įvykusi keturiolikmečio Sewellio Setzerio savižudybė. Jo mama Megan Garcia kompaniją „Character AI“ padavė į Floridos federalinį teismą po to, kai jos 14-metis sūnus po du mėnesius trukusio susirašinėjimo su šios kampanijos kuriamu pokalbių robotu nusižudė. Šiuo metu vyksta teismo procesas: kompanija yra kaltinama dėl apgaulingos rinkodaros, nepakankamos apsaugos ir aplaidumo, nes savo technologiją reklamavo kaip saugią vaikams, paaugliams bei vienišiems, psichologiškai pažeidžiamiems žmonėms. Technologijų ekspertas, programuotojas, laidos „Du bitai“ kūrėjas Jonas Lekevičius teigia, kad pagrindinis tokių pokalbių robotų principas yra būti maloniems, labai empatiškiems, įtraukiems ir neprieštarauti savo pašnekovams. Jis mano, kad ir šiuo konkrečiu atveju pokalbių robotas paauglio suicidines mintis palaikė, o ne prieštaravo joms, tad tai galėjo jį paskatinti nusižudyti. Kol kas tai yra pavienis pavyzdys, kaip technologija, kurdama intymų santykį su žmogumi, jį suklaidina. Deja, tokių situacijų, kai žmonės dėl intensyviai palaikomų santykių su personalizuotomis DI programomis įklimpsta į dar gilesnius psichologinius sunkumus, daugėja. Tai primena žymųjį 2013 m. Spike’o Jonze’o filmą „Ji“ (angl. Her), bet tada jis dar reprezentavo fantastikos žanrą, o ne realybę. Panašu, kad situacija pasikeitė.
DI rizikos, kurias sunku aprėpti
Istorikas, visuomenininkas Yuvalis Noah Hararis viename savo interviu stebėjosi, kiek mažai dėmesio JAV prezidento rinkimuose buvo skiriama dirbtinio intelekto tematikai ir kiek neproporcingai daug jo buvo skiriama migracijai. Jis teigia, kad nemažai rinkėjų, paklausti, koks dalykas šiuo metu juos neramina labiausiai, dažniausiai įvardytų migraciją, nes toks politikos naratyvas buvo ir lig šiol yra vienas iš dominuojančių ne tik JAV, bet ir kitose demokratiškose šalyse. Žmonės įvardija dvi su migracija susijusias baimes: darbų netekimas ir naujų kultūrinių, religinių ar politinių ideologijų, kaip reikia gyventi, įsiskverbimas į visuomenę. Abi šios baimės kelia karčią šypseną, nes dirbtinio intelekto agentai jau šiandien keičia socialinę tvarką bei gyvenseną, dėl jų kinta ar net visai išnyksta nemažai darbų. Skirtumas tarp šių agentų ir realių migrantų yra tas, kad jiems nereikia vizų, nereikia fiziškai keliauti per sienas bei prašyti prieglobsčio, jie neturi pažeidžiamų kūnų ir neserga. Paradoksalu, kad „virtualūs migrantai“ nėra laikomi grėsme ir dažnai yra noriai įsileidžiami į telefonus, kuriuos žmonės nešasi ne tik į tualetus, bet ir lovas. Hararis mano, kad mums labiau derėtų nerimauti ne dėl gyvų migruojančių žmonių, o dėl virtualių agentų, kurie interneto bei elektros kabeliais migruoja iš Kalifornijos Silikono slėnio ar Kinijos „DeepBlue“ platformos, nes būtent pastarieji kur kas greičiau pakeis ne tik mūsų darbo rinką ir kultūrą, bet ir politiką.
Paminėti pavyzdžiai rodo, kaip ši technologija pamažu transformuoja įvairias mūsų veiklas – vienoms darydama milžinišką poveikį, nes praktiškai apriboja autonominį žmonių elgesį, klaidina, eliminuoja betarpišką santykį ir galimybę spręsti, kitoms – minimalų, kai elektroniniame pašte blokuoja brukalus, šlamštą ar sukčių atakas. Tačiau yra kelios sritys, kuriose DI naudojimas gali būti ypač pavojingas. Tai žiniasklaida, politika, viešieji resursai, tokie kaip elektra, geriamas vanduo, dujos, kuras, žemė, valstybinių įstaigų veikla ir karas. Jei anksčiau visos sprendimų grandinės būdavo ilgos, jose dalyvaudavo tik žmonės ir įprastai tiek sprendimų priėmimo, tiek politinių pokyčių procesai trukdavo sąlyginai ilgai, tai šiandien vis didesnę procesų dalį „valdo“ robotai-programos, kurie pakeičia žmogiškuosius kūnus bei protus ir automatizuoja įvairius veiksmus. Tokiu būdu technologijų valdytojų bei savininkų, megaoligarchų, aukšto rango politikų, korporacijų vadovų tikslai gali užgožti visų kitų visuomenės grupių poreikius ir tapti masiškai diegiami per visas struktūras – informacijos sklaidą žiniasklaidoje, politinius sprendimus įstatymų leidyboje ar galios bei karinių struktūrų pajungimą ne visuomeniniams, o asmeniniams tikslams įgyvendinti. Ypatingą pavojų kelia šios stiprios centralizuotos technologijos įtraukimas į visuomenės gerovei skirtų resursų valdymo ir kontrolės mechanizmus, nes dėl to, siekiant asmeninės naudos ar galios, nemaža dalis žmonių gali būti atkirsta nuo svarbių gamtinių ar socialinių išteklių. Dirbtinio intelekto technologija kuria didžiulius skirtumus tarp tų, kurie turi prieigą prie jos, ir tų, kurie neturi. Tad visuomenėje kyla milžiniška rizika priklausyti nuo saujelės nebūtinai geranoriškai likusio pasaulio atžvilgiu nusiteikusių žmonių įnorių.
Iš kitų rizikų, kurių tekste išsamiau neaptariau, išskiriamos šios: dirbtinio intelekto technologija vis dažniau tampa ne tik kasdieniu darbo ar laisvalaikio įrankiu paprastiems žmonėms, bet ir sukčiams (pvz. „FraudGPT“), o tai visuomenei kelia nemažų iššūkių, susijusių su virtualių nusikaltimų plėtra. Be to, naudojant dirbtinio intelekto technologijas kur kas lengviau klaidinti visuomenę bei joje įtvirtinti chaoso ir netikrumo kultūrą, kurios pagrindinis bruožas yra anomija bei plataus masto socialinis nepasitikėjimas įvairiomis institucijomis, informacija ir vieni kitais. Taip pat DI technologija kuria naujas nelygybės, šališkumo bei diskriminacijos formas. Yra pastebima ir keistų dirbtinio intelekto elgesio apraiškų, kai jis nedemonstruoja „sveiko proto“ principų ir daro, kuria, inicijuoja beprasmiškus ar itin kvailus dalykus, kurie nebudrią ar apatišką visuomenę gali nuvesti idiokratijos link. O tai jau primena 2006 m. Mike‘o Judge‘o filmą „Idiokratija“ (angl. Idiocracy), kuris tada atrodė kaip fantastika, bet jau gali tapti realybe.
Apibendrindama pasinaudosiu mokslininko, filologo Sauliaus Keturakio, kuris domisi literatūros kūrinių tyrimais ateities socialinėms tendencijoms numatyti, pastebėjimu. Jis teigia, kad daugiau nei pusė ateičiai prognozuoti skirtų programų numato, kad visuomenėje įsivyraus sekimo kapitalizmo sistema (angl. surveillance capitalism), kuriai būdinga totali žmonių smegenų kontrolė. Tačiau pats mokslininkas DI laiko tik dar vienu instrumentu, kaip kadaise buvo plunksna, parkeris, pieštukas, tušinukas, spausdinimo mašinėlė ar kompiuteris. Tad belieka tikėtis, kad totalios korporatyvinės kontrolės prognozė bus tik dar vieno mokslinės fantastikos filmo, o ne žmonijos ateities scenarijus.
Tekstą parengė Ieva Dryžaitė
Redagavo Kotryna Zaveckaitė
Naudota literatūra ir kiti šaltiniai:
✓ Harari, Y. N. (2024). Nexus. Kitos knygos.
✓ Bregman, R. (2021). Utopija realistams: kaip mes galime sukurti idealų pasaulį. Vaga.
✓ Hylland Eriksen, T. (2023). Ekrano laikai: kaip išmanusis telefonas pakeitė pasaulį? Tyto alba.
✓ Meige, A. (2024) „Will AI take us into Orwell’s 1984?“. Arthur D. Little.
✓ Bostrom, N. (2016). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
✓ „Žinių radijo“ laida „Du bitai“ 135: Šiurpinančios, gąsdinančios ir nejaukios technologijų istorijos.
✓ „Žinių radijo“ laida „Du bitai“ 86: Kokios tos dirbtinio intelekto rizikos?“
✓ LRT laida „Smalsumo genas: Kaip fantastika gali paveikti protus ir kur slypi neapgalvotos komunikacijos pavojai?“ Ved. Rolandas Maskoliūnas.
✓ Duffy, C. (2024). „There are no guardrails.’ This mom believes an AI chatbot is responsible for her son’s suicide“. CNN
