„Google“ pašalino dalį sveikatos temomis parengtų dirbtinio intelekto santraukų po ekspertų perspėjimų dėl rizikos vartotojams.
Leidinyje „Independent“ skelbiama, kad „Google“ panaikino kelias automatiškai sugeneruotas dirbtinio intelekto santraukas sveikatos tema po žurnalistinio tyrimo, atskleidusio, jog dalis jų buvo netikslios arba galėjo klaidinti vartotojus.
Anksčiau laikraštis „The Guardian“ nustatė problemų, susijusių su AI Overviews funkcija – trumpomis apžvalgomis, kurias generatyvusis dirbtinis intelektas sukuria ir pateikia paieškos rezultatų viršuje. Kai kuriais atvejais šios santraukos buvo susijusios su medicininėmis temomis.
Vienu iš pavyzdžių, atsakydamas į klausimą „koks yra normalus kepenų kraujo tyrimų rodiklių diapazonas“, dirbtinis intelektas neatsižvelgė į svarbų kontekstą – paciento gyvenamąją šalį, lytį, amžių ar etninę priklausomybę. Ekspertai įspėjo, kad dėl to žmonės, turintys rimtų sveikatos sutrikimų, galėjo klaidingai manyti, jog jų tyrimų rezultatai yra normalūs, ir nesikreipti medicininės pagalbos.
Po šio tyrimo publikavimo „Google“ pašalino AI santraukas, rodomas pagal užklausas „normalus kepenų tyrimų diapazonas“ ir „normalūs kepenų mėginių rodikliai“. Bendrovė pabrėžė, kad atnaujina paieškos rezultatus, kai nustato, jog santraukose trūksta reikalingo konteksto.
„Google“, kuriai tenka daugiau nei 90 % pasaulinės interneto paieškos rinkos, pranešė nekomentuojanti atskirų atvejų, kai turinys pašalinamas. Bendrovės atstovo teigimu, vidinį patikrinimą atliko klinicistų komanda, ir daugeliu atvejų pateikta informacija vis tiek atitiko duomenis, esančius autoritetinguose medicinos šaltiniuose.
Labdaros organizacijos „British Liver Trust“ komunikacijos ir politikos direktorė Vanessa Hebditch palankiai įvertino „Google“ sprendimą, tačiau pabrėžė, kad rizika išlieka. Jos teigimu, jei vartotojas klausimą suformuluos kiek kitaip, paieškos sistema vis dar gali parodyti potencialiai klaidinančią AI santrauką.
Ji akcentavo, kad kepenų funkcijos tyrimų rezultatų interpretavimas yra sudėtingas procesas, kurio negalima supaprastinti iki paprasto skaičių palyginimo. „AI apžvalgos atskirus rodiklius paryškina, todėl skaitytojas gali nepastebėti, kad šios reikšmės apskritai nėra susijusios su jo tyrimų rezultatais“, – aiškino V. Hebditch.
„The Guardian“ taip pat pranešė, kad AI santraukos ir toliau pateikiamos pagal panašias užklausas, pavyzdžiui, „LFT etaloninės reikšmės“. „Google“ teigimu, bendrovė jau nagrinėja ir šiuos naujus pavyzdžius.
