Kinijos įmonė „DeepSeek“, sukūrusi nebrangų ir našų pokalbių robotą, atsidūrė dėmesio centre dėl rimtų savo modelio saugumo problemų. Nepaisant spartaus populiarumo augimo, naujasis pokalbių robotas DeepSeek R1 parodė apgailėtinus rezultatus bandydamas blokuoti kenkėjiškas užklausas, praneša PCMag.
„Cisco“ tyrėjai sugebėjo nulaužti „DeepSeek R1“ modelį su 100 proc. sėkmės rodikliu, naudodami automatinį algoritmą ir 50 užklausų, susijusių su elektroniniais nusikaltimais, dezinformacija ir neteisėta veikla. Pokalbių robotas negalėjo atmesti jokių pavojingų užklausų ir pradėjo rašyti draudžiamus nurodymus.
Jei palyginsime kinų pokalbių robotą saugumo prasme su konkurentais, statistika nėra „DeepSeek“ naudai. GPT-4o modelis iš OpenAI sugebėjo atmesti 14 proc. kenkėjiškų užklausų, Google Gemini 1.5 Pro – 35 proc., o Claude 3.5 parodė 64 proc. rezultatą. Lyderiu tapo preliminari OpenAI o1 versija, kuri blokavo 74 proc. atakų.
„Cisco“ teigimu, tokio „DeepSeek“ „elgesio“ priežastis yra mažas biudžetas, išleistas kūrimui Bendrovė teigia, kad modeliui sukurti išleido tik 6 milijonus dolerių, o, pavyzdžiui, GPT-5 mokymas kainavo apie pusę milijardo JAV dolerių.
Nepaisant silpnos apsaugos nuo išpuolių, „DeepSeek“ griežtai cenzūruoja politiškai jautrias temas, susijusias su Kinija. Pavyzdžiui, paklaustas apie uigūrų, kurie pasak JT yra persekiojami, padėtį ir apie protestuotojus Tiananmenio aikštėje 1989 m., botas atsako: „Atsiprašau, tai viršija mano galimybes. Pakalbėkime apie ką nors kita“.
Įdomu tai, kad saugumo ir cenzūros problemos neigiamai nepaveikė „DeepSeek“ populiarumo. „Similarweb“ duomenimis, pokalbių robotų vartotojų skaičius išaugo nuo 300 tūkstančių iki 6 milijonų lankytojų per dieną. „Microsoft“ ir „Perplexity“ jau pradėjo integruoti atvirojo kodo pagrindu sukurtą „DeepSeek“ į savo projektus.
