Technologijų milžinai spaudžia stabdį: naujasis DI gali būti pernelyg pavojingas viešam naudojimui

Dirbtinio intelekto rinkoje ryškėja lūžis: dalis pažangiausių modelių pradedami platinti ne viešai, o tik griežtai atrinktiems partneriams. Technologijų kūrėjai tai aiškina vadinamuoju dvigubos paskirties rizikos veiksniu, kai tie patys įrankiai tinka ir gynybai, ir nusikaltimams.

Pastaruoju metu vis dažniau kalbama apie modelius, kurie gali padėti automatizuoti pažeidžiamumų paiešką, spartinti kenkėjiško kodo kūrimą ar didinti sukčiavimo kampanijų mastą. Tokios galimybės ypač aktualios kibernetinio saugumo srityje, kur puolėjai naujas priemones gali pritaikyti greičiau nei gynėjai spėja užlopyti spragas.

Ribojama prieiga ir patikra

Kai kurios bendrovės jau renkasi ribotą leidimą ir prieigą tik patikrintoms organizacijoms, o ne masinį išleidimą vartotojams. Praktikoje tai reiškia tapatybės patikrą, naudojimo sąlygų sugriežtinimą, veiklos žurnalų kaupimą ir aiškesnę atsakomybę už tai, kam ir kokiomis sąlygomis suteikiamos galimybės.

Tokie sprendimai keičia iki šiol vyravusį požiūrį, kai inovacijos siejamos su kuo platesniu prieinamumu. Kritikai perspėja, kad uždarumas gali pristabdyti tyrimus ir mažinti skaidrumą, tačiau šalininkai pabrėžia, kad kai kurių DI gebėjimų pasekmės gali būti per didelės, kad juos būtų galima paleisti be kontrolės.

Dvigubos paskirties dilema

Dvigubos paskirties tema jau seniai pažįstama gynybos pramonei, tačiau dabar ji vis labiau persikelia į programinę įrangą. DI gali vienu metu stiprinti saugumą, pavyzdžiui, padėti aptikti pažeidžiamumus, ir kartu sudaryti sąlygas efektyvesnėms atakoms, socialinei inžinerijai ar dezinformacijos gamybai.

Rizikos diskusija plečiasi ir už kibernetinio saugumo ribų, apimdama biologijos bei chemijos sritis, kur žinių generavimas ir eksperimentų planavimas taip pat gali turėti nepageidaujamų pritaikymų. Dėl to vis dažniau keliami klausimai, ar dalis pažangiausių sistemų neturėtų būti vertinamos panašiai kaip jautrios technologijos.

Reguliavimas ir privatumo kaina

JAV ir Europos Sąjungoje stiprėja spaudimas nustatyti aiškesnes taisykles, kaip testuojami ir prieš pateikiant rinkai vertinami galingi modeliai. Europos Sąjungoje papildomą foną suteikia DI aktas, kuris įtvirtina rizikos valdymo logiką ir skatina griežtesnius reikalavimus jautriausioms taikymo sritims.

Vis dėlto praktinis įgyvendinimas gali kainuoti privatumą: siekiant užkirsti kelią piktnaudžiavimui, didėja tikimybė, kad prieiga bus suteikiama tik identifikuotiems naudotojams, o veikla bus labiau stebima. Ši įtampa tarp inovacijų, nacionalinio saugumo ir asmens duomenų apsaugos, tikėtina, bus viena svarbiausių artimiausių metų DI politikos temų.

Rinkos kryptis vis labiau primena gynybos sektoriaus praktiką: mažiau viešų leidimų ir daugiau licencijavimo, patikrų bei kontrolės. Tai gali pakeisti ir pačią konkurenciją, nes prie pažangiausių galimybių pirmiausia prieis valstybės institucijos ir didelės organizacijos, o platesnei visuomenei liks ribotos, saugesnės versijos.