Dirbtinis intelektas vos nesukėlė rimtos nelaimės – pokalbių botas „ChatGPT“ nesugebėjo atpažinti vieno pavojingiausių pasaulyje augalų, nuodingojo šimtviečio (boligolovo). Apie incidentą socialiniuose tinkluose papasakojo tinklaraštininkė Kristi (Kristy).
Pasak įtakos darytojos, jos draugė savo namo kieme aptiko įtartiną augalą ir nusprendė išsiaiškinti, kas tai per rūšis, pasitelkdama dirbtinį intelektą. Ji nufotografavo augalą, nuotrauką nusiuntė „ChatGPT“ ir paprašė jį identifikuoti.
Atsakydamas pokalbių botas pareiškė, kad nuotraukoje matoma paprasta morka. DI netgi pateikė argumentus, esą užaugusi morkų lapija pasižymi „smulkiai suskaldytais, plunksniškais lapais“, kurie, anot sistemos, puikiai sutampa su matomu augalu.
Vartotoja nusprendė dar kartą pasitikslinti ir tiesiai paklausė, ar tai negalėtų būti nuodingasis šimtvietis (boligolas). Tačiau algoritmas kelis kartus atkakliai neigė tokią galimybę. Net ir tada, kai moteris įkėlė papildomų nuotraukų, „ChatGPT“ liko prie savo versijos. Sistema tvirtino, kad augalas neturi lygių, tuščiavidurių stiebų su violetinėmis dėmėmis – laikomų vienu pagrindinių boligolovo požymių, nors šios ypatybės buvo aiškiai matomos nuotraukose.
Situacija išsisprendė tik tada, kai buvo pasitelktas kitas įrankis. Kristi įkėlė tas pačias nuotraukas į „Google Lens“, ir ši sistema akimirksniu bei tiksliai atpažino mirtinai nuodingą piktžolę. Įdomu tai, kad vėliau, kai Kristi draugė atsidarė naują pokalbį su „ChatGPT“ ir pakartojo užklausą, botas jau iš antro karto pripažino, kad fotografijose – nuodingas augalas.
„Ji yra suaugusi ir žinojo, kad reikia nepasikliauti vien tuo, ką pasakė „ChatGPT“, ir ieškoti daugiau informacijos. O kas būtų, jeigu – ne? Ji tiesiog būtų mirusi, nuo šio nuodo priešnuodžio nėra“, – pabrėžė Kristi.
Tinklaraštininkė paragino savo sekėjus niekada nesiremti didelėmis kalbos modeliais, sprendžiant su sveikata ir saugumu susijusius klausimus. Jos nuomone, perdėtas pasitikėjimas dirbtiniu intelektu net ir buitinėse situacijose gali turėti tragiškų pasekmių.
