Naujas „OpenAI“ tyrimas atskleidė, kodėl dirbtinio intelekto haliucinacijos – reiškinys, kai AI modeliai sukuria klaidingus faktus – yra neišvengiamos. Paaiškėjo, kad tai nėra tik mokymosi klaidos, o matematiškai neišvengiamas teksto generavimo procesas. Net ir naudojant nepriekaištingus duomenis, AI gali suklysti dėl žodžių prognozavimo principo ir klaidų kaupimosi.
Kas yra dirbtinio intelekto haliucinacijos?
Dirbtinio intelekto haliucinacijos pasireiškia tada, kai modelis pateikia klaidingą, tačiau įtikinamai skambančią informaciją. Tai nutinka todėl, kad AI kuria tekstą žodis po žodžio, remdamasis tikimybėmis. Klaidų dažnis ilgėjant sakiniui ar atsakymui didėja, todėl net paprastas klausimas gali turėti teisingą atsakymą, o ilgesnės užklausos dažniau baigiasi netikslumais.
Kaip mokymosi duomenys veikia klaidas?
Tyrimas parodė, kad kuo mažiau duomenų apie tam tikrą temą turi modelis, tuo didesnė tikimybė, kad atsakymas bus klaidingas. Pavyzdžiui, jei tik 20 % žinomų faktų apie įžymybių gimtadienius yra treniravimo rinkinyje, AI bent tiek procentų atsakymų pateiks neteisingai. Tokios dirbtinio intelekto haliucinacijos tampa akivaizdžios realiuose pavyzdžiuose, kai modeliai vienam klausimui pateikia kelias skirtingas, bet klaidingas datas.
Kodėl AI linkęs spėlioti?
Mokslininkai nustatė, kad dabartiniai vertinimo metodai skatina modelius spėlioti. Jei AI atsako „nežinau“, vertinimo sistemoje tai įskaitoma kaip klaida, todėl ekonomiškai naudingiau „atspėti“. Tokia praktika dar labiau didina dirbtinio intelekto haliucinacijas, nes modeliai pasirenką užtikrintumą vietoje tikslumo.
Galimi sprendimai
„OpenAI“ siūlo, kad modeliai įvertintų savo atsakymų tikimybę. Jei pasitikėjimas atsakymu nesiekia 75 %, AI turėtų atsakyti atsargiau arba nurodyti, jog nėra tikras. Tokia sistema sumažintų dirbtinio intelekto haliucinacijas, tačiau vartotojams, įpratusiems prie greitų ir užtikrintų atsakymų, toks „nežinojimas“ gali atrodyti nepatogus. Be to, tokie sprendimai reikalautų didesnių kompiuterinių resursų, todėl išaugtų paslaugų kaštai.
Šaltinis: rbc.ua
Nuotraukos asociatyvinės © Canva.
