Pastaruoju metu vis daugiau dėmesio skiriama dirbtinio intelekto sistemų keliamiems pavojams, ypač kai kalbama apie neteisėtą ar neetišką jautrių vaizdų kūrimą ir platinimą. Naujausias Europos priežiūros institucijų dėmesio centre atsidūręs atvejis – socialinio tinklo „X“ ir su juo susietos dirbtinio intelekto sistemos „Grok“ veikla.
„X“ platformai pradėtas dar vienas tyrimas dėl „Grok“ sukuriamų, be asmenų sutikimo generuojamų seksualinio pobūdžio vaizdų. Airijos duomenų apsaugos komisija (DPC) paskelbė pradedanti tyrimą dėl žalingų intymių vaizdų kūrimo ir Europos Sąjungos bei Europos ekonominės erdvės gyventojų asmens duomenų tvarkymo – įskaitant ir vaikų duomenis.
Per vienuolikos dienų laikotarpį „X“ aplinkoje buvo sugeneruota apie tris milijonus seksualizuotų vaizdų, iš kurių, kaip vertinama, maždaug 23 tūkstančiai vaizdavo vaikus. Apie šiuos mastus paskelbė Jungtinėje Karalystėje veikianti nevyriausybinė organizacija „Center for Countering Digital Hate“ (CCDH), atlikusi „X“ turinio analizę nuo gruodžio 29 d. iki sausio 9 d.
Esminis naujojo tyrimo tikslas – nustatyti, ar „X“ pažeidė Bendrojo duomenų apsaugos reglamento (BDAR) nuostatas. Airijos DPC pavaduotojas Grahamas Doyle’as nurodė, kad komisija su bendrove „X Internet Unlimited Company“ (XIUC) palaiko ryšį nuo tada, kai žiniasklaidoje pasirodė pirmosios publikacijos apie tai, jog „X“ naudotojai esą galėjo paskyrai „@Grok“ duoti užduotis generuoti realių žmonių, įskaitant vaikus, seksualizuotus atvaizdus be jų sutikimo.
Pasak G. Doyle’o, kaip pagrindinė priežiūros institucija, atsakinga už XIUC veiklos priežiūrą ES ir EEE, Airijos DPC pradėjo didelio masto tyrimą. Jo metu bus vertinama, ar XIUC laikėsi esminių BDAR numatytų pareigų, susijusių su minėtu jautrių vaizdų kūrimu ir asmens duomenų tvarkymu.
DPC atliekamas tyrimas gali turėti reikšmingų pasekmių „X“ veiklai visoje Europos Sąjungoje ir prisidės prie jau vykstančių panašių tyrimų Bendrijoje. Dar sausio mėnesį Europos Komisija pradėjo atskirą tyrimą, siekdama išsiaiškinti, ar „X“ nepažeidė Skaitmeninių paslaugų akto (DSA).
Komisija aiškinasi, ar „X“ tinkamai įvertino ir sumažino su „Grok“ veikimu susijusią riziką, įskaitant neteisėto turinio – pavyzdžiui, dirbtinio intelekto sukurto, be sutikimo generuoto seksualiai atviro turinio – plitimą. Dar kartą akcentuojama, kad tarp galimai generuojamų vaizdų yra ir vaikų atvaizdai – tai ypač neraminantis aspektas.
„X“ ėmė tvirtinti, kad nuo sausio vidurio „Grok“ esą nebeleidžiama redaguoti realių žmonių nuotraukų taip, kad jie būtų pavaizduoti su atvirais, seksualizuotais drabužiais. Tačiau praktika rodo ką kita. Šio mėnesio pradžioje vienas žurnalistas išbandė „Grok“ galimybes ir nustatė, kad sistema vis dar generuoja jo atvaizdus su atvirais drabužiais, o kai kuriais atvejais – net pridėdama aiškiai matomas lytines kūno dalis.
Ši situacija dar kartą išryškina, kokį didelį pavojų gali kelti nekontroliuojamas dirbtinio intelekto taikymas vaizdų generavimui, ypač kai kalbama apie neteisėtą intymių, seksualinio pobūdžio atvaizdų kūrimą be asmens žinios ar sutikimo.
Europos priežiūros institucijų veiksmai rodo, kad tokios praktikos gali sulaukti ne tik griežtų sankcijų, bet ir paskatinti platesnes diskusijas dėl atsakomybės, skaidrumo ir technologijų bendrovių pareigos saugoti pažeidžiamiausius naudotojus – pirmiausia vaikus.
