Vartotojai liko šokiruoti: „TikTok“ dirbtinis intelektas pradėjo viešinti absurdiškus aprašymus

„TikTok“ sustabdė ribotus naujos funkcijos, paremtos dirbtiniu intelektu, bandymus po to, kai vartotojai ėmė masiškai dalintis klaidinančiais ir kartais absurdiškais vaizdo įrašų aprašymais. Įrankis turėjo padėti greičiau suprasti, kas rodoma vaizdo įraše, tačiau praktikoje dažnai pateikdavo su realybe prasilenkiančias išvadas.

Bandymas vyko tik daliai paskyrų JAV ir kai kuriose kitose rinkose. Po vaizdo įrašais DI automatiškai generuodavo trumpas santraukas, kurios turėjo paaiškinti turinį, bet neteisingai „atpažindavo“ scenas, objektus ir veiksmus, taip sukeldamas kritikos bangą.

Socialiniuose tinkluose ėmė plisti pavyzdžiai, kai visiškai įprasti klipai būdavo apibūdinami keistomis, su turiniu nesusijusiomis frazėmis. Vartotojai viešino ekrano nuotraukas ir juokavo, kad funkcija ne padeda, o kuria papildomą triukšmą ir klaidina žiūrovus.

Reaguodama į situaciją, „TikTok“ nusprendė apriboti funkcijos paskirtį. Vietoje bandymo aprašyti visą vaizdo įrašo turinį DI labiau koncentruosis į produktų atpažinimą, kai klipuose rodomi konkretūs daiktai ar prekės, taip mažinant klaidų ir dezinformacijos riziką.

Šis atvejis vėl atkreipė dėmesį į vadinamąsias DI haliucinacijas, kai sistema pateikia įtikinamai skambantį, bet neteisingą turinį. Su vaizdo įrašais problema ypač sudėtinga, nes reikia vienu metu vertinti vaizdą, judesį, garsą, kalbą ir kontekstą, o net menkas konteksto praradimas gali nuvesti į neteisingas išvadas.

Tokios klaidos kelia ne tik reputacijos, bet ir pasitikėjimo platforma klausimą, ypač kai santraukos gali būti suprastos kaip faktinis paaiškinimas. Dėl to vis daugiau technologijų bendrovių renkasi atsargesnį diegimą, ribotus testus, papildomą žmogaus priežiūrą ir siauresnes DI užduotis, kurios lengviau patikrinamos.