Išmanūs laikrodžiai, balsu valdomi asistentai, automatizuoti sprendimai kasdieniame gyvenime – visa tai dar visai neseniai atrodė kaip mokslinės fantastikos scenarijai, o šiandien tapo daugelio kasdienybės dalimi.
Technologijos neabejotinai keičia pasaulį. Jos palengvina darbą, taupo laiką ir netgi padeda spręsti sveikatos ar klimato problemas. Tačiau vis labiau skaitmenizuotame pasaulyje vis dažniau tenka užduoti klausimą, ar tikrai žinome, kada šios technologijos veikia mums išvien, o kada tampa įrankiu prieš mus?
Neretai girdime frazes apie privatumo grėsmę, duomenų nutekėjimą ar algoritmų šališkumą. Šios temos dažnai skamba kaip foninis triukšmas – tol, kol problema nepaliečia mūsų asmeniškai. Tik tada susimąstome, ką iš tikrųjų reiškia „sutikau su privatumo politika“ ar „automatiškai apdoroti duomenys“.
Daugeliui vartotojų vis dar trūksta aiškumo, kaip iš tiesų veikia jų naudojamos sistemos, ką jos renka, kam perduoda ir kaip galima tą kontroliuoti. Reikėtų pripažinti, kad žmonės sparčiau priima naujoves nei supranta jų poveikį.
Mes linkę džiaugtis patogumais, bet retai sustojame įvertinti, kas slypi po patogia sąsaja ar glotniu įrenginio dizainu. Todėl būtina kalbėti ne tik apie tai, ką technologijos gali, bet ir kaip jos naudojamos ir ar kartais jos nėra nukreiptos prieš mus pačius.
Kas lemia, kad technologija gali tapti grėsme?
Pagrindinis faktorius yra skaidrumo ir supratimo trūkumas. Vartotojai neretai naudojasi įrankiais, nežinodami, kas vyksta už jų nugaros. Įrenginiai renka informaciją apie mūsų įpročius, maršrutus, bendravimą ir visa tai dažnai vyksta tyliai, be aiškaus sutikimo ar supratimo.
Duomenys, kurie atrodytų nekalti, gali tapti prekybos objektu, manipuliacijos pagrindu ar net sukelti reputacinius ar finansinius nuostolius.
Pavojus kyla ne vien dėl duomenų rinkimo, bet ir dėl jų interpretavimo. Dirbtinis intelektas veikia pagal algoritmus, kuriuos sukūrė žmonės. O žmonės – klaidų ir šališkumo šaltinis. Tai reiškia, kad sprendimai, priimti pagal algoritminius modelius, gali būti neobjektyvūs, neteisingi ar diskriminuojantys.
Nuo banko paskolos suteikimo iki kandidato atrankos, jei sistema mokoma remiantis netiksliu ar iškreiptu duomenų rinkiniu, jos rezultatai bus ne mažiau iškreipti.
Kada pastebime, kad kažkas ne taip?
Viena aiškiausių situacijų, kai vartotojas pradeda gauti reklamas, atitinkančias pokalbius, kuriuos, regis, kalbėjo tik su draugu. Arba kai telefonas „pasiūlo“ būtent tą produktą, apie kurį buvo tik pagalvota, bet neieškota.
Tokios situacijos signalizuoja apie gilų įsiskverbimą į asmeninį gyvenimą. Tai ne tik marketingo evoliucija, tai ir kontrolės perėjimas į nematomų algoritmų rankas.
Dar viena grėsminga tendencija – socialinių tinklų algoritmai, formuojantys mūsų informacinį burbulą. Platformos, siekdamos išlaikyti vartotoją ilgiau, rodo tik tai, kas patinka, kas kelia emocijas ar įtraukia.
Tai uždaro mus į vienos nuomonės lauką, mažina kritinį mąstymą ir ilgainiui formuoja netikslų pasaulio vaizdą. Tokia skaitmeninė izoliacija gali būti pavojinga tiek individo, tiek visuomenės lygiu.
Ką galime padaryti kaip vartotojai?
Pirmiausia reikėtų žinoti ir domėtis. Prieš įdiegdami programėlę ar registruodamiesi naujoje platformoje, verta pasidomėti, kokius duomenis ji rinks, kur jie keliaus ir kam bus naudojami. Taip pat reikėtų nuolat peržiūrėti nustatymus, išjungti nereikalingus leidimus, apriboti prieigą prie buvimo vietos, mikrofono ar kontaktų.
Antra, būti kritiškiems technologijų pažadams. Jei kažkas žada „nemokamą“ paslaugą, tai greičiausiai reiškia, kad produktas esate jūs. Svarbu klausti, kas iš to turi naudos ir ką mainais duodate. Net ir smulkios detalės, pavyzdžiui, slapukų valdymas svetainėse, turi ilgalaikį poveikį, tai tarsi nuolatinis sutikimas būti stebimu.
Kaip turėtų elgtis technologijų kūrėjai ir valstybės?
Technologijų kūrėjams tenka atsakomybė – ne tik sukurti veikiančius produktus, bet ir juos padaryti etiškus. Tai reiškia skaidrų algoritmų veikimą, lengvai prieinamą informaciją apie duomenų naudojimą bei galimybę vartotojui tai kontroliuoti. Taip pat, rimtas dėmesys duomenų apsaugai ir rizikų vertinimui.
Valstybės vaidmuo yra užtikrinti reguliacinį stuburą. Taisyklės ir priežiūra neturėtų būti laikomos inovacijos stabdžiu, priešingai, jos leidžia užtikrinti, kad technologijos vystytųsi atsakingai.
Europos Sąjungoje jau svarstomos dirbtinio intelekto reguliavimo gairės, kurios turėtų užtikrinti, kad vartotojai būtų apsaugoti nuo neskaidrių sprendimų ar automatizuoto šališkumo.
Technologijos – galingas įrankis
Norint žinoti, ar technologijos neveikia prieš mus, reikia nuolat kelti klausimus, domėtis, išlikti kritiškiems ir nebijoti reikalauti atsakymų.
Tik tada galime užtikrinti, kad įrenginiai, kuriuos laikome delne, netaptų tyliais mūsų gyvenimo šešėliais. Jie turi tarnauti mums, o ne atvirkščiai.
