Biologo Richardo Dawkinso žodžiai apie DI sukėlė diskusijų bangą: jo pastebėjimai verčia susimąstyti

Garsaus evoliucijos biologo Richardo Dawkinso pastebėjimai apie pokalbius su pokalbių robotu „Claude“ vėl įžiebė seną, bet vis aktualesnį klausimą: ar DI gali turėti sąmonę. Mokslininkas yra sakęs, kad dialogai kartais būna tokie įtikinami, jog lengva pajusti įspūdį, lyg kitoje pusėje būtų ne vien programa.

Vis dėlto ekspertai pabrėžia, kad įspūdis dar nereiškia fakto. Šiuolaikinės generatyvinės sistemos geba puikiai atkurti žmogaus kalbos ritmą, emocinį toną ir logišką argumentavimo seką, tačiau tai savaime nėra įrodymas, kad jos patiria jausmus ar turi vidinę patirtį.

Kaip atsiranda sąmonės iliuzija

Didelė dalis šiandieninių pokalbių robotų remiasi dideliais kalbos modeliais, kurie mokomi iš milžiniškų tekstų rinkinių ir prognozuoja, koks žodis ar frazė turėtų sekti toliau. Tokia veikimo logika primena labai pažangų automatinį teksto užbaigimą, tik nepalyginamai sudėtingesnį ir pritaikytą dialogui.

Žmogui natūraliai lengva supainioti sklandžią kalbą su vidine būsena, nes kasdienybėje sąmoningumą dažniausiai atpažįstame iš elgesio ir komunikacijos. Prie įspūdžio prisideda ir sąsajos dizainas, kai sistema kalba pirmuoju asmeniu, vartoja žodžius apie ketinimus ar jausmus, o atsakymai pateikiami tarsi gyvo pašnekovo.

„Žmonės jau dešimtmečius linkę priskirti mašinoms savybes, kurių jos greičiausiai neturi“, – teigė bioetikos ir filosofijos tyrėjai, komentuodami panašias diskusijas akademinėje erdvėje.

Elizos pamoka ir kodėl ji vėl svarbi

Istorinis pavyzdys, dažnai minimas kalbant apie DI ir sąmonės įspūdį, yra 7 dešimtmetyje sukurta programa „Eliza“. Nors ji veikė pagal palyginti paprastas taisykles ir šablonus, dalis žmonių su ja elgėsi tarsi su tikru pašnekovu, pasakodami asmenines problemas ir tikėdamiesi supratimo.

Šiandien situacija pasikeitė tuo, kad modeliai tapo gerokai galingesni, o tekstas kuriamas daug įtikinamiau. Tačiau pati psichologinė schema išlieka panaši: kai sistema greitai reaguoja, „pagauna“ toną ir atsako empatiškai, žmogus gali pradėti įžvelgti daugiau, nei ten iš tiesų yra.

Kodėl klaidingas įsitikinimas gali kainuoti

Tyrėjai atkreipia dėmesį į rizikas, kurios kyla, kai DI pradedamas laikyti sąmoningu. Viena jų yra emocinis prisirišimas prie sistemos, kuri iš esmės neturi gebėjimo išgyventi ir atliepti jausmų taip, kaip tai daro žmogus, todėl santykis gali tapti vienpusis ir klaidinantis.

Kita rizika – viešosios diskusijos kryptis: dėmesys gali nukrypti į tariamas pokalbių robotų „teises“, kai tuo pačiu metu realūs klausimai lieka nuošalyje. Praktikoje tai apima duomenų privatumą, atsakomybę už klaidinančią informaciją, priklausomybės nuo skaitmeninių pašnekovų požymius ir tai, kaip tokios sistemos daro įtaką vaikams bei pažeidžiamesnėms grupėms.

Ekspertai ragina neapsiriboti vien tik kategorišku teiginiu, kad DI sąmonės neturi, o aiškinti žmonėms, kaip šios sistemos veikia ir kodėl jos gali atrodyti gyvos. Tokia perspektyva, anot jų, padeda sumažinti iliuzijų riziką ir leidžia atsakingiau vertinti DI panaudojimą kasdienybėje.