Gadgetshowto
Experiența noastră directă cu tehnologia de recunoaștere a imaginilor AI, Google Lens, a arătat că învățarea automată a parcurs cu siguranță un drum lung. Dar această tehnologie este în prezent departe de a fi perfectă și nu atât de inteligentă pe cât am sperat să fie, mai ales pentru că ritmul în care pregătim computerele pentru a identifica modele este lent. În plus, unele AI necesită calcule avansate pentru rețeaua neuronală și cu siguranță nu este cea mai ușoară sarcină de a preda o mașină.
Având în vedere acest lucru, un grup de cercetători Google s-a angajat să pună la încercare sistemele de recunoaștere a imaginilor AI și să vadă dacă pot fi sau nu înșelați.
Se pare că au ieșit învingători de la Sistemul AI nu a reușit să recunoască obiectul (aici, o banană) în exemplele de imagini, totul datorită unui autocolant psihedelic special tipărit.
Crearea acestora autocolante psihedelice care pot înșela sistemele de recunoaștere a imaginilor așa cum este descris într-o lucrare de cercetare intitulată Adversarial Patch, care tocmai a fost prezentat la cea de-a 31-a conferință privind sistemele de procesare a informațiilor neuronale din decembrie 2017. Lucrarea explică faptul că cercetătorii au instruit un sistem adversar (adversar) pentru a crea cercuri psihedelice mici, de tip patch-uri, cu forme, culori și dimensiuni aleatorii pentru a păcăli recunoașterea imaginii sistem.
În timp ce cea mai comună metodă de a păcăli sistemele de recunoaștere a imaginilor AI este de a modifica o imagine prin adăugarea de grafice la aceasta, cercetătorii de la Google au decis să păcălească sistemul cu modele psihedelice.
După cum se vede în demo-ul video de mai jos, sistemul este capabil să recunoască banana și, într-o anumită măsură, prăjitorul de pâine atunci când plasați o imagine normală lângă banană. Dar rezultatele sunt mai puțin clare atunci când un vârtej psihedelic este plasat lângă banană:
Echipa a constatat, de asemenea, că a designul patch-uri apare separat de subiect și nu este afectat de factori cum ar fi condițiile de iluminare, unghiurile camerei, obiectele din vizualizarea clasificatorului și clasificatorul în sine.
Cercetătorii continuă să explice funcționarea desenelor psihedelice:
Acest atac generează un patch independent de imagine, extrem de important pentru o rețea neuronală. Acest patch poate fi apoi plasat oriunde în câmpul vizual al clasificatorului și determină clasificatorul să producă o clasă vizată.
Deși la prima vedere pare să fie păcălită recunoașterea imaginii AI, acest experiment va fi de fapt folosit pentru a elimina inconsecvențele din sistem. Cei care lucrează în acest domeniu trebuie acum să se adapteze la date zgomotoase care pot fi incluse în imaginile subiectului. Această constatare ar putea oferi sistemelor care funcționează prin învățarea automată șansa de a se îmbunătăți împotriva unei înșelăciuni similare în viitor.
