FaceApp în apă fierbinte pentru dezvoltarea unei IA rasiste

Când Wireless Lab - o companie rusă - a lansat FaceApp, ei au crezut în mod evident că oamenii o vor iubi. Sincer, aplicația are o mulțime de lucruri, cu procesarea imaginii bazată pe AI care poate adăuga efecte foto-realiste uimitoare la selfie-urile tale.

Pe față (nu este destinat jocului de cuvinte), FaceApp sună ca o aplicație uimitoare. Utilizatorii pot pur și simplu să facă clic pe un selfie sau să importe o imagine din galeria lor și să folosească diversele Filtre asistate de AI să-și schimbe expresiile, să arate mai în vârstă sau mai tineri etc. Heck, există chiar și un filtru pentru a schimba sexul (care funcționează destul de bine, ca să fiu sincer).

Cu toate acestea, aplicația a luat foc pe Twitter și alte rețele de socializare, când utilizatorii au început să raporteze că Filtrul „Hotness” din aplicație a luminat pielea utilizatorilor. Acest lucru este incredibil de rasist și are unele conotații îngrijorătoare cu privire la ideea care stă la baza „fierbinței” în societate ... sau la Wireless Lab, văzând că sunt și-au folosit setul de date private pentru a instrui AI, în locul unui set de date publice.

Din păcate, Wireless Lab a fost rapid la adoptare și a emis o declarație prin e-mail prin care și-a cerut scuze pentru algoritm fondator și CEO „Yaroslav Goncharov” mergând până la a o numi „O problemă incontestabil gravă”, dar apărarea aplicației susținând că problema a apărut din cauza „prejudecății setului de antrenament” și că nu a fost un comportament intenționat.

Wireless Lab a schimbat numele filtrului în cauză din „Hotness” în „Spark” ca soluție temporară, cu o soluție mai permanentă în curând. Ceea ce este ciudat, totuși, este că, în timp ce FaceApp a intrat într-un foc neobosit pe rețelele de socializare, Magazinul Play este încă plin de oameni care se întreabă de ce a fost eliminat filtrul „fierbinte” și mergând până la a cere dezvoltatorilor să „ignore urâtorilor ”. În mod clar, umanitatea are nevoie de remediere.