„OpenAI“ vadovas Samas Altmanas viešai stojo ginti konkurentės „Anthropic“ dėl jos bendradarbiavimo su JAV Gynybos departamentu. Pasak pranešimų, Altmanas mano, kad bet kuri dirbtinio intelekto (DI) bendrovė, dirbdama su Pentagono struktūromis, privalo aiškiai nusibrėžti „raudonąsias linijas“.
Situacija paaštrėjo tuomet, kai Pentagono atstovai paprašė „Anthropic“ leisti jos DI modelį naudoti „visiems teisėtiems tikslams“. „Anthropic“ sutinka bendradarbiauti su Gynybos departamentu, tačiau nuogąstauja, kad tokia formuluotė gali atverti kelią DI pritaikymui, pavyzdžiui, autonominiuose ginkluose.
Teoriškai ši technologija galėtų būti panaudota ir masinei teisėtai JAV piliečių stebėsenai. Be to, DI gali būti integruojamas į sistemas, kuriose nepakankamai užtikrinamas patikimumas, o klaidų kaina būtų itin didelė.
Kontekstui svarbu tai, kad „Anthropic“ sukurta DI sistema „Claude“ esą tapo vienu pirmųjų tokio tipo modelių, pradėtų naudoti klasifikuotuose kariniuose projektuose. Pranešama, jog Pentagonas bendrovei nustatė terminą iki vasario 27 d. 17:01 val. priimti sprendimą dėl šio reikalavimo vykdymo.
Įtampą didina ir finansiniai bei reputaciniai svertai: atsisakius sutikti, gali būti sužlugdytas pelningas, maždaug 200 mln. JAV dolerių vertės „Anthropic“ kontraktas su Gynybos departamentu. Taip pat minima rizika, kad nebendradarbiaujanti įmonė galėtų būti priskirta prie „tiekimo grandinės rizikos“ šaltinių.
„Anthropic“ reikalaujama atsisakyti saugiklių
Be to, teoriškai valstybė galėtų pasitelkti specialias teisines priemones, pavyzdžiui, Gynybos gamybos aktą (Defense Production Act), kad bendrovę priverstų bendradarbiauti. Toks žingsnis būtų laikomas itin rimta eskalacija, jei šis scenarijus iš tiesų būtų įgyvendintas.
Žiniasklaida praneša, kad Samas Altmanas ėmėsi veiksmų, siekdamas įtikinti Pentagoną sumažinti įtampą. Jo vertinimu, tai nėra vien „Anthropic“ ir Gynybos departamento ginčas – situacija gali turėti pasekmių visam DI sektoriui, įskaitant ir pačią „OpenAI“.
Altmano teigimu, jei Pentagono spaudimas pasiteisintų, būtų sukurtas nepriimtinas precedentas. Kritikai akcentuoja, kad iš „Anthropic“ iš esmės reikalaujama atsisakyti vidinių DI saugumo priemonių, o tai daroma spaudimo sąlygomis.
„Nors su „Anthropic“ nesutariu daugeliu klausimų, iš esmės jais pasitikiu kaip įmone ir manau, kad jie rimtai žiūri į saugumą. Džiaugiuosi, kad jie padeda mūsų kariams“, – interviu metu sakė Altmanas.
„Nežinau, kur visa tai nuves“, – pridūrė jis.
Vidiniame pranešime „OpenAI“ darbuotojams Altmanas pabrėžė, kad tai jau nebe vien dviejų pusių klausimas: „Tai nebėra tik „Anthropic“ ir Gynybos departamento reikalas; tai – visos industrijos klausimas, ir mums svarbu aiškiai išdėstyti savo poziciją.“
Laukiama sprendimo
Altmanas taip pat paaiškino, kad „OpenAI“ Pentagonui pateikė savo pasiūlymą, kuris, jų vertinimu, leistų „mūsų modelius diegti klasifikuotose aplinkose taip, kad tai atitiktų mūsų principus“. Pasak jo, tokia schema galėtų būti tinkama ir kitoms DI laboratorijoms.
„Tikime, kad šis ginčas susijęs ne su tuo, kaip bus naudojamas DI, o su tuo, kas jį kontroliuos. Manome, kad privati JAV įmonė negali būti galingesnė už demokratiškai išrinktą JAV vyriausybę, nors įmonės gali turėti daug įtakos ir pasiūlymų“, – teigiama Altmano laiške, cituojamame žiniasklaidos.
„Dabartinė situacija kelia riziką mūsų nacionaliniam saugumui ir kartu didina tikimybę, kad vyriausybė imsis veiksmų, galinčių pakenkti Amerikos lyderystei DI srityje. Norėtume prisidėti prie įtampos mažinimo“, – pridūrė jis.
Kaip klostysis derybos, priklausys ne tik vieno DI kontrakto likimas, bet ir būsimos sąveikos taisyklės tarp Silicio slėnio ir valstybės institucijų. Nuo to, ar išliks vadinamoji „etinė veto teisė“, gali priklausyti, kaip karinis DI bus kuriamas, diegiamas ir galiausiai kontroliuojamas artimiausiais metais ar net dešimtmečiais.
