Kako prepoznati računalno generirana lica?
Mali tim istraživača s Državnog sveučilišta New York u Albanyju, Državnog sveučilišta New Yorku u Buffalu i Keya Medical pronašao je zajedničku grešku na računalno generiranim licima po kojoj se mogu prepoznati. Grupa je napisala rad koji opisuje njihove nalaze i učitala ih na poslužitelj za preprint arXiv.
U posljednjih nekoliko godina, lažne slike i video zapisi bili su u vijestima jer su amateri i profesionalni urednici stvorili slike i videozapise koji prikazuju ljude kako rade stvari koje nikada nisu učinili. S tim he povezana i povećana upotreba računalno generiranih slika ljudi koji izgledaju ljudski, ali koji zapravo nikada nisu postojali. Takve se slike stvaraju pomoću generativnih neprijateljskih mreža (GAN), a navodno su se počele pojavljivati na lažnim profilima korisnika društvenih medija, što omogućuje mnoge vrste zlonamjernih aktivnosti.
GAN-ovi su oblik tehnologije dubokog učenja - neuronska mreža trenira se na slikama kako bi naučila kako izgledaju ljudske glave i lica. Tada mogu generirati nova lica ispočetka. Rezultat se može smatrati prosječnim izgledom svih ljudi koje je mreža proučavala. Generirano lice zatim se šalje u drugu neuronsku mrežu koja pokušava utvrditi je li stvarno ili lažno. Oni koji se smatraju lažnim vraćaju se na reviziju.
Taj se proces nekoliko puta ponavlja, a rezultirajuće slike postaju sve bliže realnoj. U nekom trenutku smatraju se gotovim. No, takva obrada, naravno, nije savršena, kako izvještavaju istraživači. Koristeći softver koji su napisali, otkrili su da mnogi GAN-ovi imaju tendenciju stvarati manje okrugle zjenice, koje se, primjećuju, mogu koristiti kao oznaka računalom generiranih lica.
Istraživači primjećuju da u mnogim slučajevima korisnici mogu jednostavno zumirati oči osobe za koju sumnjaju da nije stvarna kako bi uočili nepravilnosti zjenica. Također napominju da ne bi bilo teško napisati softver koji bi uočio takve pogreške i za web stranice društvenih medija da ga koriste za uklanjanje takvog sadržaja. Nažalost, također napominju da sada kada su takve nepravilnosti identificirane, ljudi koji stvaraju lažne slike mogu jednostavno dodati značajku kako bi osigurali zaobljenost zjenica.
Izvor: Cornell University