Kibernetinio saugumo bendruomenė sunerimusi: DI spragas randa greičiau nei bet kada anksčiau

JAV institucijos ir technologijų bendrovės skuba stiprinti apsaugos priemones, nes nauja dirbtinio intelekto (DI) modelių karta vis geriau randa programinės įrangos spragas ir gali būti panaudota kibernetinėms atakoms. Kibernetinio saugumo ekspertai įspėja, kad reguliavimas ir praktiniai „saugikliai“ gali vėluoti, o tai keičia visą rizikos skaičiavimą.

Vertinimai, kuriais remiasi JAV politikos formuotojai ir saugumo bendruomenė, rodo, kad artimiausi 6–12 mėnesių gali būti kritinis laikotarpis, per kurį Kinija priartės prie panašaus pajėgumo pažangių DI modelių. Tokia dinamika reiškia, kad laiko tarpas pasirengti galimai DI sustiprintų atakų bangai yra ribotas.

Modeliai greitina atakas ir gynybą

Naujausi pažangūs modeliai jau demonstruoja gebėjimus, kurie anksčiau reikalavo daug laiko ir žmonių darbo: nuo kodo analizės iki pažeidžiamumų identifikavimo. Saugumo įmonės pabrėžia, kad DI gali sumažinti operacijų trukmę nuo dienų ar savaičių iki sekundžių, todėl auga atakų mastas ir dažnis.

Tuo pat metu DI tampa ir esminiu gynybos įrankiu: organizacijos siekia pasinaudoti modeliais tam, kad greičiau aptiktų spragas, automatizuotų prioritetizavimą ir spartintų pataisų diegimą. Tačiau čia kyla dilema: kuo plačiau tokie modeliai prieinami, tuo didesnė tikimybė, kad jų galimybėmis pasinaudos ir nusikaltėliai.

„Tai uragano perspėjimas, o ne bangolaužis“, – sakė SANS Institute atstovas Robas T. Lee, kalbėdamas apie laiką, kurį JAV turi pasirengti iki tol, kol DI pakoreguos kibernetinio saugumo taisykles.

Prieiga prie modelių ir „distiliavimo“ rizika

Technologijų bendrovės DI modelių testavimą ir prieigą dažnai riboja iki patikimų partnerių, ypač kai kalbama apie galimybes, susijusias su pažeidžiamumų paieška ar kenkėjiškų veiksmų automatizavimu. Vis dėlto spaudimas atverti prieigą auga, nes įmonės, valdžios institucijos ir sąjungininkų vyriausybės siekia stiprinti tinklų atsparumą.

Vienas iš papildomų JAV nerimo veiksnių siejamas su vadinamaisiais distiliavimo metodais, kai iš „mokytojo“ modelio išvesties apmokomas „mokinio“ modelis. Tokia praktika gali padėti greičiau sukurti konkurencingus modelius, net neturint prieigos prie visos infrastruktūros ar mokymo duomenų, todėl modelių „nutekėjimo“ ir netiesioginio kopijavimo rizikos tampa geopolitinės.

Reguliavimas vejasi realybę

JAV administracija laikosi nuostatos, kad pernelyg griežtas reguliavimas gali slopinti inovacijas ir mažinti konkurencingumą, ypač konkurencijoje su Kinija. Vis dėlto spaudimas įvesti daugiau saugumo reikalavimų auga, kai viešumoje daugėja signalų, kad pažangūs DI modeliai gali būti pritaikomi ne tik gynybai, bet ir puolimui.

JAV prezidentas Donaldas Trumpas šią savaitę pasirašė vykdomąjį įsaką, kuriuo DI bendrovės skatinamos savanoriškai pateikti galingus naujus modelius valdžios peržiūrai bent 30 dienų prieš jų viešą išleidimą. Kongrese taip pat pristatytas didelės apimties įstatymo projekto juodraštis, numatantis DI saugos ir saugumo reguliavimo kryptis, nors jo priėmimo perspektyvos kol kas neaiškios.

Kinija tuo pat metu DI integraciją į ekonomiką yra įtraukusi į strateginius planus, o Pekinas siekia spartinti technologinį savarankiškumą. Tokios konkurencinės aplinkos sąlygomis JAV saugumo ekspertai pabrėžia, kad realistiškiausias atsakas yra ne vien teisėkūra, bet ir greitas praktinis pasirengimas: spragų paieška, pataisų diegimo disciplina, atsarginių scenarijų pratybos ir griežtesnė tiekimo grandinės kontrolė.

„Jūs dar turite laiko užkalti langus ir perkelti tai, kas svarbiausia. Tačiau audra ateis, ir reikia užtikrinti, kad jos nesitiksite stovėdami kieme“, – sakė Robas T. Lee.