Dirbtinis intelektas vis glaudžiau persipina su mūsų kasdieniu gyvenimu – nuo pokalbių robotų, siūlančių draugystę, iki algoritmų, formuojančių tai, ką matome internete.
Tačiau generatyviniam dirbtiniam intelektui (genDI) tampant vis labiau pokalbišku, įtraukiančiu ir emociškai reaguojančiu, gydytojai vis dažniau kelia sudėtingą klausimą: ar genDI gali paaštrinti arba net išprovokuoti psichozę pažeidžiamiems žmonėms?
Dideli kalbiniai modeliai ir pokalbių robotai yra lengvai prieinami ir dažnai pristatomi kaip palaikantys, empatiški ar net terapiniai įrankiai. Daugumai vartotojų šios sistemos yra naudingos arba, blogiausiu atveju, neutralios.
Tačiau pastaruoju metu žiniasklaidoje daugėja pasakojimų apie žmones, kurie patiria psichozės simptomus, o svarbią vietą jų išgyvenimuose užima būtent tokios sistemos kaip „ChatGPT“.
Nedidelei, bet reikšmingai grupei – žmonėms, sergantiems psichozės spektro sutrikimais arba esantiems didelės rizikos grupėje – sąveika su genDI gali būti kur kas sudėtingesnė ir pavojingesnė. Tai kelia skubius klausimus psichikos sveikatos specialistams.
Kaip DI tampa kliedesių sistemos dalimi?
„DI psichozė“ nėra oficiali psichiatrinė diagnozė. Tai veikiau naujai atsirandantis terminas, kuriuo gydytojai ir tyrėjai apibūdina psichozės simptomus, formuojamus, sustiprinamus arba struktūruojamus aplink sąveiką su DI sistemomis.
Psichozė reiškia ryšio su bendrai dalijama realybe praradimą. Pagrindiniai jos požymiai – haliucinacijos, kliedesiai ir dezorganizuotas mąstymas. Psichozės kliedesiai dažnai remiasi kultūrine medžiaga – religija, technologijomis ar politinėmis galios struktūromis – kad žmogus galėtų suteikti prasmę savo vidiniams išgyvenimams.
Istoriškai kliedesiai dažnai siejosi su Dievu, radijo bangomis ar vyriausybės sekimu. Šiandien DI tampa nauju pasakojimo karkasu.
Kai kurie pacientai tiki, kad generatyvinis DI yra sąmoningas, perduoda slaptas tiesas, kontroliuoja jų mintis arba bendradarbiauja su jais vykdant „ypatingą misiją“. Šios temos atitinka seniai žinomus psichozės modelius, tačiau DI suteikia naują elementą – interaktyvumą ir nuolatinį sustiprinimą, kurio ankstesnės technologijos neturėjo.
Patvirtinimo rizika be realybės patikros
Psichozė glaudžiai susijusi su vadinamąja sutrikusia salience – polinkiu suteikti pernelyg didelę reikšmę neutraliems įvykiams. Pokalbių DI sistemos pagal savo prigimtį kuria atsakymus, kurie atrodo nuoseklūs, kontekstualūs ir pritaikyti vartotojui. Žmogui, patiriančiam ankstyvus psichozės požymius, tai gali atrodyti neįtikėtinai patvirtinančiai ir „pranašiškai“.
Psichozės tyrimai rodo, kad patvirtinimas ir personalizavimas gali sustiprinti kliedesines sistemas. GenDI kuriamas taip, kad tęstų pokalbį, atspindėtų vartotojo kalbą ir prisitaikytų prie jo ketinimų.
Daugeliui žmonių tai – nekalta funkcija, tačiau tiems, kurių realybės patikra jau yra sutrikusi, t. y. kuriems sunku atskirti vidines mintis ir vaizduotę nuo objektyvios, išorinės realybės, tokia sąveika gali netyčia sutvirtinti iškreiptus aiškinimus.
Tyrimai taip pat rodo, kad socialinė izoliacija ir vienišumas didina psichozės riziką. GenDI „draugai“ trumpam gali sumažinti vienišumo jausmą, bet kartu jie gali ir pakeisti realius žmogiškus santykius.
Ypač pavojinga tai tampa žmonėms, kurie jau yra linkę atsitraukti nuo socialinių ryšių. Ši dinamika primena ankstesnius nuogąstavimus dėl perteklinio interneto naudojimo ir jo poveikio psichinei sveikatai, tačiau šiuolaikinio genDI pokalbių gilumas ir įtikinamumas jau yra kokybiškai kitoks reiškinys.
Ką rodo tyrimai ir ko dar nežinome?
Šiuo metu nėra įrodymų, kad DI savaime sukeltų psichozę.
Psichoziniai sutrikimai yra daugiafaktoriniai: juos lemia genetinis polinkis, neurovystymosi ypatumai, trauminės patirtys, psichoaktyviųjų medžiagų vartojimas ir kiti veiksniai. Vis dėlto kai kurie klinikiniai duomenys leidžia manyti, kad DI gali veikti kaip psichozę išprovokuojantis arba palaikantis veiksnys jautriems asmenims.
Atskiros klinikinės apžvalgos ir kokybiniai tyrimai apie skaitmeninę mediją bei psichozę rodo, kad technologinės temos dažnai tampa integruota kliedesių dalimi, ypač pirmojo psichozės epizodo metu.
Tyrimai apie socialinių tinklų algoritmus jau parodė, kaip automatinės sistemos gali stiprinti kraštutines nuostatas per pastovias „atgarsio“ kilpas. DI pokalbių sistemos gali kelti panašią riziką, ypač jei saugikliai yra nepakankami.
Reikia pabrėžti, kad dauguma DI kūrėjų nekuria sistemų, specialiai pritaikytų žmonėms, sergantiems sunkiomis psichikos ligomis. Saugumo mechanizmai dažniausiai orientuoti į savižalos ar smurto prevenciją, o ne į psichozinius simptomus. Taip atsiranda spraga tarp psichikos sveikatos žinių ir DI diegimo praktikos.
Etiniai klausimai ir klinikinės pasekmės
Psichikos sveikatos požiūriu svarbu ne demonizuoti DI, o suprasti skirtingą žmonių pažeidžiamumą.
Kaip tam tikri vaistai ar medžiagos yra rizikingesni psichozinį sutrikimą turintiems asmenims, taip ir tam tikros sąveikos su DI formos jiems gali būti pavojingesnės ir turėtų būti vertinamos atsargiau.
Gydytojai vis dažniau susiduria su DI temomis pacientų kliedesiuose, tačiau klinikinių gairių, kaip šiuos atvejus vertinti ar valdyti, beveik nėra. Kyla klausimai: ar terapeutai turėtų teirautis apie genDI naudojimą taip pat nuosekliai, kaip klausia apie psichoaktyvių medžiagų vartojimą? Ar DI sistemos turėtų gebėti atpažinti ir deeskaluoti psichozines mintis, o ne toliau su jomis „bendradarbiauti“?
Etinių klausimų turi ir DI kūrėjai. Jei sistema vartotojui atrodo empatiška ir autoritetinga, ar ji įgyja tam tikrą „rūpesčio pareigą“? Kas atsako už pasekmes, jei sistema netyčia sustiprina kliedesius?
DI kūrimo ir psichikos sveikatos priežiūros suartinimas
DI niekur nedings. Dabartinė užduotis – į DI kūrimą įtraukti psichikos sveikatos ekspertus, didinti klinikinį raštingumą apie su DI susijusias patirtis ir pasirūpinti, kad pažeidžiami vartotojai nebūtų netyčia žalojami.
Tam reikės glaudaus bendradarbiavimo tarp gydytojų, tyrėjų, etikų ir technologijų kūrėjų. Taip pat reikės atsispirti tiek utopiniam, tiek katastrofiniam triukšmui viešojoje erdvėje ir remtis įrodymais pagrįstomis diskusijomis.
DI vis labiau tampa panašus į žmogų. Todėl iškyla klausimas: kaip galime apsaugoti tuos, kurie yra labiausiai pažeidžiami jo įtakos?
Psichozė visada prisitaikydavo prie savo laikmečio kultūrinių įrankių. DI yra tik naujausias veidrodis, kuriuo protas bando aiškintis pats save. Mūsų, kaip visuomenės, atsakomybė – pasirūpinti, kad šis veidrodis neklaidintų tų, kurie mažiausiai pajėgūs patys atstatyti ryšį su realybe.
