Software-ul de recunoaștere facială este părtinitor pe baza studiului de gen și rasă

Tehnologia de recunoaștere facială nu mai este un truc. Este din ce în ce mai utilizat în moduri pietonale și nu prezintă semne de încetinire. Astăzi, în afară de a fi utilizată pentru deblocarea smartphone-urilor, recunoașterea facială a ajuns în toate colțurile. De fapt, tehnologia este utilizată de ofițerii de poliție chinezi pentru a identifica suspecții.

Cu toate acestea, potrivit noilor cercetări din Media Lab ale MIT, se pare că tehnologia de recunoaștere facială este supusă unor prejudecăți bazate pe gen și rasă. Joy Buolamwini, cercetător la MIT Media Lab, a construit un set de date de 1.270 de fețe. Apoi a testat acuratețea a trei sisteme de recunoaștere facială de la Microsoft, IBM și Megvii (o firmă chineză). În mod surprinzător, rezultatul a arătat inexactități în identificarea genului.

Când sistemelor li s-au afișat fotografiile cu bărbați cu piele mai deschisă, a fost capabil să le identifice destul de ușor. Cu toate acestea, sistemul a identificat greșit până la 12% dintre bărbații cu pielea mai închisă la culoare; și până la 35 la sută dintre femelele cu pielea mai închisă la culoare.

„În general, subiecții de sex masculin au fost clasificați cu mai multă precizie decât subiecții de sex feminin care replică descoperirile anterioare (Ngan și colab., 2015), iar subiecții mai ușori au fost clasificați mai exact decât persoanele mai întunecate”. - Joy Buolamwini

În acest sens, IBM a spus că și-au îmbunătățit în mod constant software-ul de analiză facială și că s-au „dedicat profund” serviciilor „imparțiale” și „transparente”. Microsoft, pe de altă parte, a spus: „Am luat deja măsuri pentru a îmbunătăți acuratețea tehnologiei noastre de recunoaștere facială "și că a investit în cercetare" pentru a recunoaște, a înțelege și a elimina prejudecățile.”Și, în sfârșit, Megvii nu a răspuns.

Acestea fiind spuse, nu este prima dată când tehnologia de recunoaștere facială s-a dovedit a fi inexactă. În 2015, Google a fost chemat de un inginer software când aplicația Photos și-a identificat prietenul negru drept „gorile”.