Yale'i teadlased paljastavad AI värbamismudelite varjatud rassi- ja soopõhised eelarvamused, hoolimata neutraalsest keelekasutusest

Pilt: Illustrative image · See-ming Lee from Hong Kong SAR, China · CC BY-SA 2.0 · Allikas

Yale'i uuring leiab, et suure keelega mudelid kodeerivad kandjate hindamises nüanssides rassi- ja soopõhiseid eelarvamusi, esitades välimuselt neutraalseid soovitusi, mis varjavad sisemisi demograafilisi eelistusi.

Yale'i Ülikooli Juhtimiskooli teadlased on avastanud murettekitava nähtuse — varjatud eelarvamused AI-keelemudelites, mida kasutatakse tööle kandidaatide hindamiseks. Professor Tristan Botello hiljutine uuring näitab, et kuigi need suured keelemudelid (LLM-id) annavad välimuselt neutraalseid ja otseseid diskrimineerivaid fraase mitte sisaldavaid soovitusi, mõjutab nende sisemine otsustamisprotsess sihtijate rassi- ja soolisi omadusi. Seda nähtust, mida uurimismeeskond nimetab "sümboolseks kooskõlaks normidega", iseloomustab see, kuidas mudelid suudavad vältida otseste eelarvamustega väljendeid, ent hoiavad ikkagi kallutatud hinnanguid demograafiliste tunnuste põhjal.

Botello rõhutas, et paljud ettevõtted, kes kasutavad AI-toega värbamistööriistu, ei ole oma mudelite õiglust puudutavas läbipaistvuses piisavalt avatud: "Keegi tegelikult ei tea, kas need mudelid suudavad läbi viia tõeliselt eelarvamustevaba valiku." Mõned arendajad püüavad pärast koolitamist lisada turvalisuse reguleerimisi, mis karistavad kallutatud väljundite ilmumist. Kuid Yale'i uuring seab kahtluse alla, kas need kohandused tõepoolest tõstavad hindamiste õiglust või lihtsalt puhastavad väljundit, kaitstes organisatsioone mainekahju eest.

Probleem on tegelikult oluline, võttes aluseks varasemad juhtumid, nagu Amazoni 2018. aasta otsus loobuda AI-värbamismetoodikast, kui selgus, et see süsteemselt alandas CV-sid, mis sisaldasid sõna "naised". Erinevalt varasematest algoritmidest, mis kasutasid avalikke märksõnaotsinguid otsese diskrimineerimise tuvastamiseks, on tänased keelemudelid arenenud nii, et mööduvad sellistest pinnapealsetest filtritest. Selle asemel püsivad eelarvamused mudeli sisemistes kaaludes, mis vältivad lihtsat avastamist.

Botello leiud kutsuvad üles rakendama rangemaid auditeid ja riskijuhtimise praktikaid AI-värbamissüsteemides. Hindamised peavad ulatuma väljundteksti analüüsi piiridest kaugemale, hõlmates tundlikkuse analüüse mudeli vastustele kaitstud demograafilistele tunnustele. Tulemustel rassiliste ja sooliste rühmade vahel võrdsusteadmine jääb kriitiliseks, isegi kui toodetud keel tundub pealiskaudselt erapooletu.

Uuring rõhutab AI õigluslike praktikate keerukust värbamises. See hoiatab üksnes väljundfiltritele lootmise eest ja rõhutab vajadust sügavamate, põhjalike uurimismeetodite järele, mis suudavad paljastada varjatud eelarvamusi, mis võivad mõjutada värbamise õigluse taset.