Ovi ljudi ne postoje

Petar StošićPrije 3 sata 38

DOBA interneta i sve naprednije računalne tehnologije donijelo je sa sobom brojne nove poslove koje je prije nekoliko desetljeća bilo gotovo nemoguće zamisliti. No jedna nova vrsta biznisa neobična je čak i u tom kontekstu – onog koji prodaje lažne ljude.

Riječ je, naime, o fotografijama ljudi koji ustvari ne postoje. Takve fotografije možete generirati besplatno na stranici ThisPersonDoesNotExist.com, ako ih trebate, primjerice, za likove u videoigri ili za svoju poslovnu stranicu. Svaki put kad otvorite, odnosno osvježite ovu stranicu, pojavit će vam se nova fotografija imaginarne osobe, uz sljedeću napomenu: „zamišljeno pomoću GAN (generativna suparnička mreža) Style GAN2 – Karras et al i Nvidia“.

Kreator stranice je Philip Wang, softverski inženjer iz Ubera. Kako piše američki tech-portal Verge, algoritam iza stranice izvježban je na golemom setu stvarnih fotografija, a imaginarne slike generira pomoću GAN-a, neuralne mreže za strojno učenje koju je tvrtka za računalnu grafiku Nvidia učinila javno dostupnom.

„Većina ljudi ne shvaća koliko će dobar AI biti u sintetiziranju slika u budućnosti“, navodi Wang.

>>Ovo postaje sve opasnije, kako prepoznati deepfake video?

Računalno stvorenim ljudima mogu se mijenjati dob, rasa, spol…

Lažne ljude s ovakvih računalno generiranih slika može se, korištenjem iste tehnologije, učiniti starijima ili mlađima ili im pak promijeniti rasu, izraz lica, čak i spol. A ako vam trebaju lažni ljudi u pokretu, takve nudi tvrtka Rosebud.Ai. Njihovi lažni ljudi mogu i govoriti. GAN se, naime, koristi i u stvaranju tzv. deep fake (duboki lažnjaci) videa. Također, GAN može generirati i životinje, animirane likove ili emulirati umjetničke slike. 

New York Times je u sklopu reportaže o ovome fenomenu čak izradio svoj sustav umjetne inteligencije (AI), koristeći se spomenutim softverom GAN. Ovaj sustav također generira lažne fotografije koje se onda mogu modificirati prema dobi, rasi, spolu, raspoloženju, obliku i veličini očiju ili perspektivi. Pomoću klizne kontrole između dvaju polova, primjerice mlado-staro, korisnik može mijenjati fotografiju po želji. 

„Kad se ova tehnologija pojavila 2014. bila je loša – izgledala je kao iz (računalne igre) Sims. To je podsjetnik koliko tehnologija može evoluirati. Detekcija će s vremenom samo postajati sve teža“, kaže Camille François, istraživačica dezinformacija i manipulacija na društvenim mrežama. 

Golemi napredak u posljednjih šest godina

I zaista, s obzirom na tempo kojim ova tehnologija napreduje, lako je zamisliti da ćemo u ne tako dalekoj budućnosti imati fotografije zabava ili drugih društvenih događaja punih lažnih ljudi. Ian Goodfellow, direktor strojnog učenja u Grupi za specijalne projekte Applea, napravio je pregled posljednjih nekoliko godina u domeni strojnog učenja u svrhu generiranja lica koji najbolje ilustrira koliki je napredak ostvaren.https://platform.twitter.com/embed/index.html?dnt=false&embedId=twitter-widget-0&frame=false&hideCard=false&hideThread=false&id=1084973596236144640&lang=hr&origin=https%3A%2F%2Fwww.index.hr%2Fclanak.aspx%3Fid%3D2237761&theme=light&widgetsVersion=ed20a2b%3A1601588405575&width=550px

A takvo napredno lažiranje postalo je moguće zahvaljujući dramatičnom napretku računalne tehnologije u identificiranju ključnih crta lica. Danas se tehnologiju za prepoznavanja lica koristi za otključavanje mobitela ili identificiranje neke osobe među tisućama fotografija.

Takvi programi, naravno, služe i policiji za identificiranje osumnjičenika, ali i nekim aktivistima protiv policijske brutalnosti za identifikaciju policajaca koji su prevršili svoje ovlasti, a nemaju vidljivu značku za identifikaciju. Ne treba, dakako, izostaviti ni sustavno korištenje softvera za prepoznavanje lica za nadzor i kontrolu stanovništva pod Komunističkom partijom u Kini. 

>>Pametne kamere identificirale čovjeka među 60.000 ljudi

Tehnologija već omogućuje prepoznavanje stranaca na temelju jedne fotografije

Tvrtka po imenu Clearview AI otišla je toliko daleko da je, zahvaljujući skeniranju više od tri milijarde javno dostupnih fotografija i videa s interneta, kreirala aplikaciju koja može prepoznati nepoznatu osobu na temelju samo jedne fotografije. Bude li ta tehnologija dalje napredovala, a njena se primjena proširivala, privatnost, koja je ionako debelo narušena u doba društvenih mreža, mogla bi postati stvar prošlosti.

Tu je i kritika na račun pristranosti koja je već detektirana kod umjetne inteligencije za prepoznavanje lica, a koja je vjerojatno rezultat pristranog inputa na temelju kojeg uči. Najčešći predmet kritika je rasna pristranost, odnosno problemi pri prepoznavanju lica ne-bijelaca. Tako je rana verzija Googleovog sustava za prepoznavanje lica označila dvojicu crnaca kao gorile – vjerojatno zato što je pri učenju dobio na uvid više fotografija gorila nego fotografija crnaca.

Osim toga, same kamere nisu tako dobre u hvatanju osoba s tamnom kožom kao onih sa svijetlom. A posljedice mogu biti sve, samo ne bezazlene. U siječnju ove godine Afroamerikanac iz Detroita po imenu Robert Williams uhićen je za zločin koji nije počinio zbog računalne pogreške pri identifikaciji lica. 

U svakom slučaju, lažne, odnosno računalno simulirane fotografije ljudi koji ustvari ne postoje sve se češće pojavljuju na internetu. Ljudi koji nemaju najbenignije namjere koriste ih kako bi prikrili svoj identitet, bilo da su to desničarski propagandisti ili trolovi koji maltretiraju svoje mete iza lažnih profila. 

Dokle ovakva manipulacija ide pokazuje i slučaj osobe koja se na Twitteru lažno predstavljala kao novinarka portala Bloomberg, s pripadajućom lažiranom fotografijom, a za koju se sumnja da se skrivala iza takvog lažnog profila kako bi se povezala s burzovnim špekulantima koji pokušavaju profitirati izazivajući pad vrijednosti dionica Tesle Elona Muska (tzv. short-sellers). https://platform.twitter.com/embed/index.html?dnt=false&embedId=twitter-widget-1&frame=false&hideCard=false&hideThread=false&id=1111023838467362816&lang=hr&origin=https%3A%2F%2Fwww.index.hr%2Fclanak.aspx%3Fid%3D2237761&theme=light&widgetsVersion=ed20a2b%3A1601588405575&width=550px

LinkedIn pun lažnih profila s lažnim slikama, koriste ih špijuni

Čak se i špijuni sada skrivaju iza atraktivnog lažnog lica. Kako je Associated Press utvrdio u svojoj istrazi, društvena mreža za zapošljavanje i poslovno povezivanje LinkedIn puna je fantomskih profila. Na jedan su se posebno fokusirali – profil mlade crvenokose Amerikanke po imenu Katie Jones, koja navodno radi u jednom od vodećih „think-tank“ instituta, a na LinkedInu je povezana i s istaknutim ekspertima i političkim dužnosnicima. Problem je, vrijedi još jednom naglasiti, što Katie Jones ne postoji.

„Uvjeren sam da je to lažno lice. Ima sve znakove“, komentirao je za AP njemački umjetnik Mario Klingemann, koji već godinama eksperimentira s umjetno generiranim portretima i koji je u tu svrhu pregledao tisuće umjetnih fotografija. 

Klingemann, među ostalim generira imitacije klasičnih umjetničkih slika koje su s vremenom sve bliže originalu. https://platform.twitter.com/embed/index.html?dnt=false&embedId=twitter-widget-2&frame=false&hideCard=false&hideThread=false&id=981457471620468736&lang=hr&origin=https%3A%2F%2Fwww.index.hr%2Fclanak.aspx%3Fid%3D2237761&theme=light&widgetsVersion=ed20a2b%3A1601588405575&width=550px

LinkedIn je vrlo privlačan špijunima

A eksperti kažu da je LinkedIn, svojevrsna globalna zbirka poslovnjaka i dužnosnika, vrlo privlačan za špijune. William Evanina, direktor američkog Nacionalnog protuobavještajnog i sigurnosnog centra, smatra da inozemni špijuni redovito koriste lažne profile da bi se približili američkim metama, ističući posebno Kinu kao zemlju koja provodi „masovno špijuniranje“. 

„Umjesto da šalju špijune da vrbuju metu na nekom parkiralištu u SAD-u, mnogo je učinkovitije sjediti iza računala u Šangaju i poslati zahtjeve za prijateljstvom 30 tisuća meta“, objašnjava Evanina za AP.

Prošle godine umirovljeni časnik CIA-e, Kevin Mallory, osuđen je na 20 godina zatvora kad je otkriveno da je proslijedio detalje tajne američke operacije Pekingu, nakon što ga je vrbovao kineski agent koji ga je kontaktirao na LinkedInu i predstavio se kao poslovni regruter, odnosno „headhunter“.Znate li nešto više o temi ili želite prijaviti grešku u tekstu?