Pastarųjų mėnesių incidentai, susiję su debesų kompiuterijos milžinės „Amazon“ valdomos „Amazon Web Services“ (AWS) infrastruktūra, dar kartą priminė apie rizikas, kylančias plačiai diegiant dirbtinio intelekto įrankius programavimo ir sistemų priežiūros procesuose. Vienas tokių atvejų – ilgiau nei pusdienį trukęs sutrikimas, kurį, kaip teigiama, išprovokavo pačios bendrovės kuriamas dirbtinio intelekto sprendimas.
Gruodį užfiksuotas maždaug 13 valandų trukmės AWS sutrikimas, kaip nurodoma, prasidėjo po to, kai inžinieriai pasitelkė AI programavimo įrankį „Kiro“ tam tikriems sistemos pakeitimams atlikti. Keturi su situacija susipažinę šaltiniai teigė, kad būtent po šio įrankio panaudojimo ir jo inicijuotų veiksmų kilo ilgalaikės paslaugų problemos, labiausiai paveikusios Kinijos rinką.
„Kiro“ priskiriamas vadinamiesiems agentiniams dirbtinio intelekto įrankiams, t. y. tokiems, kurie gali savarankiškai atlikti tam tikrus veiksmus vartotojo vardu. Šiuo atveju AI sistema esą nusprendė, kad reikia „ištrinti ir iš naujo sukurti aplinką“. Manoma, jog būtent toks sprendimas ir nulėmė užsitęsusį AWS paslaugų sutrikimą.
„Amazon“ tvirtina, kad tai buvęs tik sutapimas, jog buvo naudojami AI įrankiai, ir kad tokia pati problema galėjo kilti pasitelkus bet kurį kūrėjų įrankį ar atliekant veiksmus rankiniu būdu. Bendrovė oficialiai nurodė, kad sutrikimą lėmė vartotojo klaida, o ne dirbtinio intelekto klaida.
Pasak „Amazon“, pagal numatytuosius nustatymus „Kiro“ prieš atlikdamas bet kokį veiksmą paprastai paprašo papildomo patvirtinimo. Vis dėlto su gruodžio incidentu siejamas darbuotojas turėjo didesnes, nei tikėtasi, prieigos teises. Bendrovė tai įvardijo kaip prieigos valdymo, o ne AI autonomijos problemą.
Keli „Amazon“ darbuotojai teigė, kad tai buvo bent antras atvejis per pastaruosius mėnesius, kai įmonės AI įrankiai atsidūrė AWS paslaugų trikdžių epicentre. Vienas vyresnysis AWS darbuotojas šiuos incidentus apibūdino taip: sutrikimai buvo nedideli, tačiau visiškai numatomi.
„Amazon“ „Kiro“ pristatė liepą ir nuo tada aktyviai skatina vidinį šio įrankio naudojimą. Vadovybė yra nustačiusi tikslą, kad darbuotojai juo naudotųsi mažiausiai 80 procentų darbo savaičių, taip pat atidžiai stebi diegimo ir naudojimo rodiklius. Be vidinio taikymo, bendrovė taip pat parduoda prieigą prie šio agentinio AI įrankio už mėnesinį prenumeratos mokestį.
Naujausi su „Kiro“ siejami incidentai įvyko po kur kas rimtesnio AWS sutrikimo praėjusių metų spalį. Tuomet maždaug 15 valandų trukęs gedimas paveikė daugybę populiarių paslaugų. Dėl šio sutrikimo veikimo problemų patyrė tokie sprendimai kaip „Alexa“, „Snapchat“, žaidimas „Fortnite“, „Venmo“ ir daugelis kitų platformų, priklausančių nuo AWS infrastruktūros.
Po spalio incidento „Amazon“ nurodė, kad gedimą sukėlė klaida automatizavimo programinėje įrangoje. Tai dar kartą atkreipė dėmesį į klausimą, kaip saugiai diegti autonomines ir pusiau autonomines sistemas didelio masto debesų infrastruktūroje, kur net menkiausia klaida gali paveikti milijonus vartotojų visame pasaulyje.
