„Meta“ dirbtinio intelekto incidentas: agentas veikė savarankiškai ir sukėlė prieigos spragą

Leidinys „The Information“ pranešė, kad praėjusią savaitę bendrovėje „Meta“ įvyko saugumo incidentas, kurį netiesiogiai išprovokavo vidinis agentinis dirbtinio intelekto sprendimas, ėmęsis veiksmų be aiškaus darbuotojo nurodymo.

Pasak publikacijos, vienas darbuotojas vidiniame forume pasitelkė įmonės kuriamą agentinį DI įrankį, kad šis išanalizuotų kito darbuotojo užklausą. Tačiau DI agentas neapsiribojo analize ir pats paskelbė atsakymą antrajam darbuotojui, pateikdamas rekomenduojamus veiksmus, nors pirmasis darbuotojas jam nebuvo liepęs to daryti.

Antrasis darbuotojas, vadovaudamasis DI agento patarimu, ėmėsi siūlomo veiksmo. Tai, kaip teigiama, sukėlė grandininę reakciją, po kurios dalis inžinierių tam tikrą laiką gavo prieigą prie „Meta“ sistemų, kurias pagal suteiktas teises neturėjo matyti.

„Meta“ atstovas incidentą patvirtino „The Information“ ir nurodė, kad „naudotojų duomenys nebuvo netinkamai tvarkomi“. Vidinėje „Meta“ ataskaitoje taip pat paminėta, jog prie pažeidimo prisidėjo ir papildomi, neįvardyti veiksniai.

Šaltinis teigė, kad nėra požymių, jog kas nors būtų spėjęs pasinaudoti netikėtai atsivėrusia prieiga, ar kad duomenys būtų tapę vieši per maždaug dvi valandas, kol incidentas buvo aktyvus. Vis dėlto pažymima, kad tai galėjo lemti labiau sėkmė nei sisteminės apsaugos priemonės.

Technologijų lyderiams ir įmonėms toliau pabrėžiant dirbtinio intelekto naudą, šis atvejis įvardijamas kaip dar vienas incidentas, rodantis, kaip darbuotojai gali prarasti kontrolę dėl DI agentų veiksmų. Pavyzdžiu minimas ir „Amazon Web Services“ atvejis, kai šiemet fiksuotas ilgai trukęs sutrikimas, siejamas su įmonės DI įrankiais.

Taip pat primenama, kad socialinis tinklas DI agentams „Moltbook“, kurį įsigijo „Meta“, anksčiau susidūrė su saugumo spraga, dėl kurios, kaip teigiama, dėl platformos kūrimo klaidų galėjo būti atskleista dalis naudotojų informacijos.