Ekspertai ragina neprarasti budrumo: „Anthropic“ plečia prieigą prie pavojingų galimybių turinčio DI modelio

JAV dirbtinio intelekto bendrovė „Anthropic“ plečia prieigą prie savo galingo modelio Mythos, kuris gali padėti aptikti ir išnaudoti programinės įrangos pažeidžiamumus. Bendrovė skelbia, kad nauja prieiga bus suteikta maždaug 150 organizacijų daugiau nei 15 šalių, tarp jų ir kelioms Europos valstybėms.

Šis plėtros žingsnis siejamas su „Anthropic“ iniciatyva Glasswing, sukurta kaip patikimų technologijų ir kibernetinio saugumo partnerių koalicija. Pagrindinis tikslas – modelio galimybes nukreipti gynybiniams tikslams, stiprinant pažeidžiamumų paiešką, analizę ir apsaugos priemonių kūrimą.

„Plečiame partnerystę iki maždaug 150 naujų organizacijų“, – teigė „Anthropic“.

Pasak bendrovės, kiekviena organizacija prieš gaudama prieigą privalės atitikti nustatytus saugumo reikalavimus. Tokia atranka yra esminė, nes modeliai, galintys efektyviai dirbti su pažeidžiamumais, kelia dvigubos paskirties riziką: jie gali pagreitinti tiek apsaugos priemonių kūrimą, tiek ir kenkėjiškų atakų planavimą, jei patektų į netinkamas rankas.

Prieigos plėtra Europoje sutampa su didėjančiu reguliuotojų dėmesiu kritinių technologijų kontrolei ir tiekimo grandinių priklausomybei. Europos institucijos pastaraisiais metais vis aktyviau ieško būdų stiprinti strateginę autonomiją, ypač srityse, susijusiose su debesija, pažangiais lustais ir kibernetiniu saugumu.

Ekspertai pabrėžia, kad tokio tipo DI sprendimai gali reikšmingai padėti gynybai, jei naudojami atsakingai: automatizuoti pažeidžiamumų paiešką, greitinti pataisų parengimą ir tiksliau modeliuoti atakų scenarijus. Tačiau kartu tai reikalauja griežtų prieigos kontrolės, audito ir atskaitomybės mechanizmų, kad technologija nepaskatintų incidentų skaičiaus augimo.

„Anthropic“ nurodo, kad Glasswing plėtra bus tęsiama ir toliau, apimant tiek JAV, tiek užsienio partnerius. Tai reiškia, kad kibernetinių pajėgumų turinčių DI modelių valdymas ir tarptautinės saugos taisyklės taps vis aktualesniu klausimu tiek bendrovėms, tiek viešajam sektoriui.