Dirbtinio intelekto technologijos vis labiau veikia viešąjį saugumą, todėl vyriausybės iš kūrėjų reikalauja aiškių ir patikimų apsaugos priemonių. Po Kanadą sukrėtusio masinio šaudymo ir kilusios kritikos „OpenAI“ paskelbė ketinanti griežtinti saugumo protokolus bei glaudžiau bendradarbiauti su teisėsauga.
Bendrovė pažadėjo sustiprinti vidines saugumo procedūras ir anksčiau informuoti teisėsaugos institucijas apie patikimas grėsmes. Apie tai ji pranešė laiške Kanados institucijoms. Šis sprendimas priimtas po to, kai Kanados politikai išsikvietė įmonės atstovus pasiaiškinti, kodėl 2025 m. užblokavus Tumbler Ridžo (Britų Kolumbija) masinio šaudymo įtariamojo paskyrą, apie tai nebuvo pranešta pareigūnams.
Kanados valdžios atstovai kritikavo „OpenAI“ už tai, kad aptikusi „potencialaus realaus pasaulio smurto“ požymių ir užblokavusi įtariamojo paskyrą, bendrovė vis dėlto nepranešė policijai. Be to, paaiškėjo, jog užblokuotas naudotojas sugebėjo susikurti naują paskyrą ir toliau naudotis paslaugomis. Antrąją paskyrą „OpenAI“ atpažino tik tuomet, kai šaulio vardas buvo paskelbtas viešai, ir tik tada informavo teisėsaugą.
„OpenAI“ viceprezidentė pasaulinei politikai Ann O’Leary laiške Kanados pareigūnams nurodė, kad įmonė ketina patobulinti grėsmių aptikimo sistemas taip, kad užblokuoti naudotojai nebegalėtų lengvai sugrįžti į platformą. Tai reikštų griežtesnę naudotojų elgsenos analizę ir techninius sprendimus, leidžiančius atpažinti bandymus apeiti draudimus, nepriklausomai nuo to, ar kuriama nauja paskyra.
Taip pat ketinama keisti pranešimo teisėsaugai kriterijus. Nuo šiol bendrovė žada informuoti institucijas apie „artimas ir patikimas“ grėsmes, jeigu jos bus nustatytos pokalbiuose su „ChatGPT“, net ir tais atvejais, kai naudotojas aiškiai nenurodo konkretaus taikinio, smurto būdo ar numatomo laiko. Pasak Ann O’Leary, jeigu tokios taisyklės būtų galiojusios 2025 m., užblokavus įtariamojo paskyrą policija būtų buvusi informuota.
Be to, „OpenAI“ kuria nuolatinį kontaktinį kanalą Kanados teisėsaugos institucijoms. Šiuo kanalu pareigūnai galės operatyviai gauti informaciją apie galimas grėsmes, o bendrovė – prireikus greitai perduoti aktualius duomenis, svarbius viešajam saugumui užtikrinti.
Kanados vyriausybė „OpenAI“ sprendimą nepranešti apie pirminę įtariamojo paskyrą įvardijo kaip rimtą nesėkmę. Taip pat perspėta, kad šalis gali imtis griežtesnio reguliavimo dirbtinio intelekto pokalbių sistemoms, jeigu jų kūrėjai neįrodys turintys pakankamai veiksmingas saugumo priemones naudotojams ir visuomenei apsaugoti. Kol kas neaišku, ar „OpenAI“ planuoja analogiškus pakeitimus įgyvendinti Jungtinėse Valstijose ir kitose šalyse.
