Kompanija „Anthropic“ pradėjo testuoti Claude Code įrankyje naują funkciją – auto režimą. Bendrovė ją pristato kaip tarpinį variantą tarp numatytojo veikimo, kai Claude kiekvienam failo įrašymui ir „bash“ komandai prašo vartotojo patvirtinimo, ir kai kurių programuotojų naudojamo itin rizikingo nustatymo, leidžiančio pokalbių robotui veikti gerokai autonomiškiau.
Įjungus auto režimą, Claude veiksmus prižiūri klasifikatoriaus sistema: ji leidžia atlikti, sistemos vertinimu, saugius veiksmus, o aptikusi galimą riziką nukreipia asistentą rinktis kitą sprendimo būdą. Kurdama šį sprendimą, „Anthropic“ siekė sumažinti tikimybę, kad Claude imsis masiškai trinti failus, ištrauks jautrius duomenis ar vykdys kenkėjišką kodą.
Vis dėlto „Anthropic“ pabrėžia, kad visiško saugumo garantuoti neįmanoma.
„Klasifikatorius vis tiek gali leisti kai kuriuos rizikingus veiksmus, pavyzdžiui, jei vartotojo ketinimai dviprasmiški arba jei Claude neturi pakankamai konteksto apie jūsų aplinką, kad suprastų, jog veiksmas gali sukelti papildomą riziką“, – rašo bendrovė.
Nors „Anthropic“ nenurodo konkretaus įvykio, kuris būtų tapęs auto režimo įkvėpimu, sprendimas pasirodo po žiniasklaidoje aptarto atvejo, kai „Amazon“ patyrė apie 13 valandų trukusį „AWS“ sutrikimą – pranešta, kad viena iš įmonės dirbtinio intelekto priemonių galėjo ištrinti talpinimo aplinką. „Amazon“ šį incidentą siejo su žmogiška klaida, teigdama, jog incidento dalyvis turėjo platesnes teises, nei buvo tikėtasi.
Auto režimo peržiūra nuo šiandien pasiekiama „Team“ plano naudotojams, o „Enterprise“ ir „API“ vartotojams funkcija turėtų būti pradėta diegti artimiausiomis dienomis.
