ES institucijos gali gauti prieigą prie vieno pažangiausių „OpenAI“ modelių: kuo jis ypatingas?

„ChatGPT“ kūrėja „OpenAI“ derasi su Europos Komisija dėl galimybės ES institucijoms suteikti prieigą prie pažangaus modelio, skirto programinės įrangos pažeidžiamumams nustatyti. Šis žingsnis Briuselyje vertinamas kaip reikšmingas postūmis, nes pastarosiomis savaitėmis Europos pareigūnai ieškojo būdų geriau suprasti naujos kartos DI keliamas kibernetines rizikas.

Pagrindinė idėja yra suteikti prieigą ne plačiajai visuomenei, o reguliuotojams ir saugumo institucijoms, kad jos galėtų įvertinti, kaip toks modelis gali būti panaudotas gynybai. Kartu tai leidžia stebėti, ar saugikliai, ribojantys piktnaudžiavimą, veikia praktikoje.

Modelis, kuris randa spragas

Pagal viešai aptariamą iniciatyvą ES institucijos galėtų susipažinti su kibernetikai pritaikyta pažangiausio „OpenAI“ modelio versija, galinčia padėti identifikuoti programinės įrangos silpnas vietas. Tokie įrankiai saugumo komandoms gali pagreitinti pažeidžiamumų paiešką, padėti prioritetizuoti pataisas ir geriau įvertinti realų rizikos lygį.

Vis dėlto ta pati technologija kelia ir akivaizdžią grėsmę: jei modelis per daug „leidžiantis“, jis gali palengvinti kenkėjams spragų išnaudojimą ar atakų planavimą. Dėl to įprastai tokie modeliai turi papildomus apribojimus, o prieigos kontrolė tampa kritiškai svarbi.

Kontrastas su „Anthropic“ ir politinis spaudimas

„OpenAI“ pasiūlymas išryškino skirtumus tarp didžiųjų DI kūrėjų, kaip jie dalijasi jautriomis kibernetinėmis galimybėmis su valdžios institucijomis. Europos pareigūnai buvo viešai išreiškę nepasitenkinimą, kad konkurentės „Anthropic“ modelis „Mythos“ ES pusėje ilgiau išliko sunkiai pasiekiamas.

Briuselyje dėl to augo įtampa: dalis europarlamentarų ir nacionalinių vyriausybių siekė daugiau koordinacijos bei informacijos, kad Europa nebūtų priversta laukti, kol privačios bendrovės pačios nuspręs, kas ir kada gali vertinti rizikingiausius DI pajėgumus.

„Riba tarp to, kas padeda gintis, ir to, kas gali būti panaudota pulti, yra labai plona, todėl prieigą turi vertinti ne vien pačios įmonės“, – sakė iniciatyvai vadovaujantis „OpenAI“ atstovas George’as Osborne’as.

Kodėl tai svarbu Europos infrastruktūrai

Europos Komisijos atstovai šį atvirumą sieja su galimybe geriau prižiūrėti, kaip tokie modeliai diegiami ir ar neatsiranda naujų sisteminių grėsmių. Praktinis tikslas yra sustiprinti institucijų, komunalinių paslaugų, energetikos, ryšių ir kitos kritinės infrastruktūros atsparumą, nes DI paremtų kibernetinių atakų mastas, tikėtina, augs.

ES reguliavimo aplinkoje tai dera su platesne kryptimi: didesniu modelių skaidrumu, rizikos vertinimu ir testavimu, ypač kai kalbama apie pažangius, vadinamuosius „frontier“ tipo DI sprendimus. Kuo anksčiau reguliuotojai gauna realią prieigą vertinimui, tuo mažesnė tikimybė, kad saugumo spragos bus pastebėtos tik po plataus diegimo.

Tolesnės derybos su Europos Komisija turėtų parodyti, kokiomis sąlygomis prieiga būtų suteikiama, kokio lygio modelio versija būtų prieinama ir kokie saugos bei atskaitomybės mechanizmai būtų taikomi. Nuo šių sprendimų priklausys, ar žingsnis taps precedentu kitoms DI bendrovėms, ar liks išimtimi.