Problema rimtesnė nei atrodė: sužinokite, kodėl „Microsoft“ skubiai peržiūri DI mokymo duomenis

„Microsoft“ vasarį paskyrė naują „Trusted Technology Group“ vadovę Jenny Lay-Flurrie, kuriai patikėta suvienyti atsakingų technologijų iniciatyvas ir užtikrinti, kad DI būtų kuriamas bei diegiamas saugiai. Šis žingsnis sutampa su augančia įtampa rinkoje, kur greitis dažnai nugali atsargumą.

Technologijų sektoriuje DI plėtra vis dažniau lyginama su lenktynėmis, tačiau kartu didėja ir klaidų kaina: nuo šališkumo iki neįgaliesiems nepritaikytų sprendimų. „Microsoft“ pabrėžia, kad atsakomybė už DI rezultatus tenka žmonėms ir organizacijoms, net jei sprendimus sugeneruoja modeliai.

Kas slepiasi po atsakingu DI?

Pasak Jenny Lay-Flurrie, atsakinga plėtra turi dvi dalis: ne tik sukurti teisingai, bet ir užtikrinti, kad sprendimas laikui bėgant išliktų teisingas. Tai reiškia nuolatinį testavimą, grįžtamojo ryšio rinkimą ir korekcijas, kai realiame pasaulyje išryškėja spragos.

Įmonė savo modelių valdyme remiasi principais, kurie apima teisingumą, skaidrumą, įtrauktį ir atskaitomybę. Tokia kryptis nėra visiškai nauja: „Microsoft“ saugumo ir patikimumo prioritetus viešai akcentuoja dar nuo Trustworthy Computing iniciatyvos, pradėtos ankstesniais dešimtmečiais.

Šališkumas prasideda duomenyse

Viena iš įvardytų problemų, su kuria susidūrė „Microsoft“, buvo netikslus aklųjų vaizdavimas DI sugeneruotose iliustracijose. Kompanija pripažino, kad modeliai atkartoję visuomenėje paplitusius stereotipus, todėl komandos turėjo įsikišti ir papildyti mokymo medžiagą.

Siekiant pagerinti atpažinimą ir kontekstą, „Microsoft“ įsigijo daugiau nei 20 000 000 minučių multimodalių duomenų iš ne pelno platformos Be My Eyes. Duomenys buvo anonimizuoti, kad galėtų būti panaudoti modelių mokymui, tiksliau atspindint aklųjų ir silpnaregių patirtis.

Tuo pat metu rinkoje pabrėžiama, kad vien įvairesni duomenys problemos neišsprendžia. Jei šališkai sužymimi įrašai ar netikslūs metaduomenys, klaidos gali būti įtvirtintos dar iki modelio mokymo, todėl kokybės kontrolė turi apimti ne tik turinį, bet ir jo aprašymą.

DI, darbuotojai ir tikrasis poveikis

„Microsoft“, būdama viena didžiausių verslo technologijų tiekėjų, savo DI sprendimais daro įtaką ir kitų įmonių sprendimams dėl procesų automatizavimo. Bendrovė taip pat yra dalis platesnės technologijų sektoriaus reorganizacijų bangos, kai vienose srityse etatai mažinami, o kitur samdoma daugiau, ypač DI infrastruktūrai.

Jenny Lay-Flurrie teigia, kad DI gali realiai mažinti atskirtį darbo rinkoje, ypač žmonėms su negalia ar neuroįvairove. „Pirmoji bendruomenė, kuri „Microsoft“ gavo prieigą prie „Copilot“, buvo mūsų darbuotojų su negalia grupė“, – sakė ji.

Jos teigimu, kurtiesiems ypač padeda subtitrai, transkripcijos ir susitikimų santraukos, kurios suteikia daugiau savarankiškumo. Neuroįvairiems darbuotojams tokie įrankiai mažina kognityvinį krūvį ir padeda struktūruoti užduotis, tačiau tam būtina nuosekli atsakingo diegimo priežiūra.

Ekspertai, dirbantys su žmonių su negalia įtrauktimi, pabrėžia, kad svarbu ne tik pritaikyti produktus, bet ir įtraukti šias bendruomenes į sprendimų priėmimą. Tai vertinama ne kaip geranoriškumas, o kaip būdas kurti konkurencingesnius ir visiems prieinamus sprendimus.