Tehnologije prepoznavanja lica postaju sve više integrisane u industrije kao što su bezbednost, granična kontrola, zdravstvo, finansije i marketing, a napredak generativne veštačke inteligencije istovremeno omogućava stvaranje visoko realističnih sintetičkih slika i sofisticirane izmene lica.
AI aplikacije se danas široko koriste za poboljšanje slika, retuširanje, uređivanje lica i transformaciju identiteta, često proizvodeći rezultate koji su gotovo nerazlučivi od autentičnih fotografija.
Kako bi bolje razumeli na koji način sistemi za verifikaciju lica reaguju na ovakve transformacije, stučnjaci Kaspersky Global Research and Analysis Team (GReAT) su tokom Kaspersky Horizons konferencije sprovli nezavisan eksperiment koristeći široko prihvaćenu biblioteku otvorenog koda za računarski vid i mašinsko učenje, koja se često primenjuje u istraživanjima prepoznavanja lica i automatizovanim sistemima vizuelne analize.
Tokom eksperimenta, originalne portretne fotografije obrađene su alatima generativne AI kako bi se simulirali scenariji starenja i podmlađivanja. U mnogim slučajevima, dobijene slike su ljudskim posmatračima delovale kao potpuno različite osobe. Uprkos ovim značajnim vizuelnim promenama, sistem za prepoznavanje lica dosledno je povezivao AI-modifikovane slike sa originalnim identitetima u svih 10 nezavisnih test slučajeva.
Eksperiment je uključivao AI-generisane scenarije starenja i podmlađivanja, poređenja vizuelno različitih portreta i verifikaciju pomoću savremenog softvera za prepoznavanje lica. Nalazi sugerišu da savremeni sistemi za prepoznavanje lica ne zavise od površinskih vizuelnih sličnosti koje opaža čovek, već od dubljih geometrijskih i strukturnih karakteristika lica. Čak i kada se izgled lica značajno promeni, algoritmi za prepoznavanje i dalje mogu da detektuju postojane biometrijske markere koji ostaju stabilni uprkos sintetičkim transformacijama.
Iz perspektive sajber bezbednosti, rezultati ukazuju na sve izraženiji dvostruki rizik. S jedne strane, oni pokazuju otpornost sistema za biometrijsku autentifikaciju na određene oblike AI vizuelne manipulacije. S druge strane, otvaraju važna pitanja o potencijalnoj zloupotrebi generativne AI za krađu identiteta, stvaranje sintetičkih identiteta i zaobilaženje procesa verifikacije zasnovanih na ljudskoj proceni.
„Iako ovaj eksperiment ne predstavlja opsežnu studiju, on je dokaz koncepta potencijalnog AI napada o kojem industrija treba da razmišlja; on ilustruje ključnu praktičnu implikaciju: AI-generisane transformacije lica mogu zadržati biometrijski identitet čak i kada ljudska percepcija te slike tumači kao potpuno različite osobe. Ovo stvara nove izazove za digitalno poverenje, verifikaciju identiteta i prevenciju prevara u eri brzo razvijajućih sintetičkih medija“, objašnjava Maher Yamout, vodeći istraživač bezbednosti u Kaspersky Global Research and Analysis Team-u.
Kako tehnologije sintetičkih medija nastavljaju da se razvijaju, istraživači kompanije Kaspersky naglašavaju da ovi trendovi zahtevaju povećanu pažnju developera sistema digitalnog identiteta, stručnjaka za sajber bezbednost i regulatornih tela, kako bi se obezbedilo da biometrijske tehnologije ostanu bezbedne, pouzdane i otporne na nove AI-vođene pretnje.
Photo by Steve A Johnson on Unsplash
Prijavite se za Advertiser Serbia Daily Newsletter
Facebook
Twitter
LinkedIn
RSS