Mokslininkai skambina pavojaus varpais: DI gali projektuoti itin pavojingus toksinus

Dirbtinio intelekto proveržis molekulinėje biologijoje žada greitesnį vaistų kūrimą, tačiau kartu didina ir biologinio saugumo rizikas. Pastaruoju metu mokslininkų bendruomenėje daug diskusijų sukėlė Kinijoje sukurta sistema, galinti projektuoti ypač pavojingas toksines baltymų molekules.

Tarptautinį dėmesį patraukė tyrėjų darbas Chongqing universitete, kur sukurta DI priemonė skirta konotoksinų dizainui. Konotoksinai yra jūrinių kūginių sraigių nuoduose aptinkami baltymai, galintys paveikti nervų sistemą, o dalis jų laikomi potencialiais skausmo gydymo kandidatų prototipais.

Vis dėlto būtent šių medžiagų dvilypumas kelia nerimą: natūralūs analogai gali būti mirtinai pavojingi, o kai kurioms jų rūšims nėra lengvai pritaikomų priešnuodžių. Ekspertai pabrėžia, kad skaitmeninis molekulės dizainas pats savaime dar nereiškia ginklo, tačiau jis gali sutrumpinti kelią nuo idėjos iki realaus sintezės užsakymo laboratorijai.

„Teoriškai kažkas dabar galėtų kurti toksinus, prilygstančius ricinui ar kitiems mirtiniems agentams, ir jie būtų praktiškai sunkiai aptinkami“, – sakė Ciuricho universiteto struktūrinės biologijos mokslininkas Martinas Pacesa.

Biologinio saugumo diskusijoje išskiriamos dvi kryptys. Pirmoji susijusi su tuo, kad plačiai prieinami pokalbių robotai gali padėti nepatyrusiems asmenims ieškoti informacijos apie žinomus patogenus ir toksinus, nors praktinis įgyvendinimas reikalauja įgūdžių. Antroji, rimtesnė, apima galimybę gerai finansuojamoms grupėms ar valstybėms kurti specializuotus modelius be etinių ribotuvų ir siekti visiškai naujų, sintetinės kilmės grėsmių.

Šiame kontekste akcentuojama, kad tokie darbai nebūtinai remiasi viešais įrankiais, kaip „ChatGPT“, „Gemini“ ar „Claude“, nes tyrėjai gali sukurti nuosavas sistemas. Tai apsunkina vien tik platformų lygmens kontrolę, nes rizikingos funkcijos gali būti perkeltos į uždaras, lokaliai veikiančias infrastruktūras.

Vertinant virusų scenarijus, ekspertų išvados nėra vienareikšmės. Viena vertus, baiminamasi, kad DI galėtų padėti modifikuoti tokius virusus kaip SARS-CoV-2 ar gripo virusai, kad jie efektyviau apeitų žmogaus imunitetą. Kita vertus, naujesnės analizės pabrėžia, kad vis dar egzistuoja didelės techninės kliūtys, tarp jų ir ribotos žinios, kaip genetinės sekos pokyčiai patikimai virsta savybėmis, pavyzdžiui, užkrečiamumu.

„Jei norite sukelti žalą dideliu mastu, jums nereikia specialiai sukurtų baltymų“, – sakė University of Washington mokslininkas Davidas Bakeris.

Praktinėje rizikų valdymo pusėje svarbi grandis yra komercinė genų sintezė. Tarptautinės įmonės ir jų konsorciumai jau dabar taiko užsakymų patikrą, siekdami aptikti žinomų patogenų ar toksinų sekas. Tačiau kelių tyrimų išvada tokia: DI gali padėti sukurti pakankamai modifikuotus analogus, kurie išlieka funkcionalūs, bet praslysta pro tradicines aptikimo taisykles.

Vienas siūlomų atsakų yra vadinamieji modelių sargai, tai yra papildomi saugos sluoksniai, kurie atpažįsta ir blokuoja užklausas apie biologinį ginklą ar rizikingus sintezės veiksmus. Kitas kelias apima griežtesnį pačios sintezės rinkos reguliavimą, kad užsakymų patikra taptų privaloma, o ne savanoriška, ir būtų taikoma kuo platesniame regione.

Tuo pat metu tyrėjai įspėja, kad vien tik užklausų filtrai nėra patikimas sprendimas, nes juos kartais galima apeiti performuluojant užduotį ar papildomai apmokant modelį viešais duomenimis. Dėl to vis dažniau kalbama apie poreikį derinti technologines priemones su auditu, prieigos kontrole, atsakomybe už modelių platinimą ir tarptautiniu biologinio saugumo bendradarbiavimu.