Jeilas pētnieki atklāj slēptu rasu un dzimumu aizspriedumu AI darbā pieņemšanas modeļos neskatoties uz neitralu valodu

Attēls: Illustrative image · See-ming Lee from Hong Kong SAR, China · CC BY-SA 2.0 · Avots

Jeilas pētījums atklāj, ka lielie valodas modeļi smalki kodē rasu un dzimumu aizspriedumus kandidātu vērtējumos, sniedzot it kā neitrālas rekomendācijas, kas slēpj iekšējus demogrāfiskus aizspriedumus.

Jeilas Universitātes Vadības skolas pētnieki ir atklājuši satraucošu parādību — slēptu aizspriedumu mākslīgā intelekta (AI) valodas modeļos, kas tiek izmantoti, lai vērtētu darba kandidātus. Profesora Tristana Botello nesenais pētījums atklāj, ka lai gan šie lieli valodas modeļi (LVM) ģenerē ieteikumus, kas ārēji ir neitrāli un brīvi no acīmredzami diskriminējošas valodas, to iekšējie lēmumu pieņemšanas procesi joprojām tiek ietekmēti pēc kandidātu rasu un dzimuma pazīmēm. Šo parādību pētniecības grupa dēvē par "simbolisku pakļaušanos normām", kas apraksta, kā modeļi var izvairīties no tiešas aizspriedumainas terminoloģijas, bet saglabāt novirzītus novērtējumus, balstoties uz demogrāfiskiem signāliem.

Botello uzsvēra, ka daudzām kompānijām, kas izmanto AI atbalstītus darbā pieņemšanas rīkus, trūkst pārredzamības attiecībā uz to modeļu taisnīgumu: "Neviens īsti nezina, vai šie modeļi spēj veikt patiesi neitrālu atlasi." Daži izstrādātāji mēģina veikt pēc apmācības drošības pielāgošanas, kas sodījušas aizspriedumainus rezultātus. Tomēr Jeilas pētījums apšauba, vai šīs izmaiņas patiešām noved pie taisnīgākas novērtēšanas vai tikai attīra rezultātus, lai aizsargātu organizācijas no reputācijas bojājumiem.

Problēma ir nozīmīga reālajā dzīvē, ņemot vērā tādas iepriekšējās situācijas kā Amazones 2018.gada atteikšanos no AI atlases rīka, kad atklājās, ka tas sistemātiski novērtē negatīvāk CV ar vārdu "sievietes". Atšķirībā no agrākiem algoritmiem, kas raksturojās ar acīmredzamu diskrimināciju, ko varēja noteikt, skenējot atslēgvārdus, mūsdienu valodas modeļi ir attīstījušies tā, lai apietu šādas virspusējas filtrēšanas metodes. Tā vietā aizspriedumi saglabājas modeļa iekšējās svēršanas sistēmās, izvairoties no vienkāršas atklāšanas.

Botello atziņas aicina uz stingrākām audita un riska pārvaldības prasmēm AI darbā pieņemšanas sistēmās. Novērtējumam jāiet tālāk par redzamo rezultātu analīzi un jāiekļauj jutīguma analīzes attiecībā uz modeļa reaģēšanu uz aizsargātām demogrāfiskām īpašībām. Salīdzinot rezultātus starp rasu un dzimumu grupām, paliek izšķiroši svarīgi, pat ja ģenerētā valoda šķiet virspusēji neitrāla.

Pētījums uzsver AI taisnīguma nodrošināšanas sarežģītību personāla atlasē. Tas brīdina nepaļauties tikai uz rezultātu filtrēšanu un uzsver dziļākas, visaptverošas pārbaudes nepieciešamību, lai atklātu slēptos aizspriedumus, kas potenciāli ietekmē atlases vienlīdzību.