AI zou een nieuwe generatie van Catfishing kunnen toepassen

AI zou een nieuwe generatie van Catfishing kunnen toepassen

juli 2, 2019 0 Door admin

 

Online daten is nog nooit de veiligste achtervolging geweest. Als je bewijs nodig hebt: MTV’s realityshow Catfish heeft het grootste deel van een decennium besteed aan het blootleggen van mensen die zich voordoen als iemand die ze niet zijn.

Nu brengen technologische ontwikkelingen een nieuwe golf van problemen teweeg voor mensen die op zoek zijn naar online liefde – de mogelijkheid dat de persoon met wie je praat niet echt is, zelfs als je denkt dat je naar een video of een afbeelding ervan kijkt.

De paniek rondom technologie’s macht om valse informatie te verspreiden is alleen maar toegenomen sinds de verkiezingen van 2016, toen “nepnieuws” een huishoudelijke term werd. Computers kunnen nu valse video’s maken van mensen die dingen zeggen en doen die ze nooit zouden doen , bijvoorbeeld. Deze video’s worden ‘deepfakes’ genoemd vanwege hun gebruik van een type machine learning of kunstmatige intelligentie, deep learning genoemd. Onlangs verspreidde een deep-fake van Mark Zuckerberg zich over het internet, wat de krantenkoppen haalde en de publieke angst voor overtuigende verzinsels verdiept.

Deepfakes zijn slechts √©√©n manier waarop AI met je perceptie kan rotzooien. Computers die diepgaand leren, kunnen door AI gegenereerde gezichten maken die in het echte leven niet bestaan . Dergelijke foto’s zijn al gebruikt bij het vissen op grote hoeveelheden katten. Vorige week meldde de Associated Press dat een LinkedIn-profiel voor een schijnbaar politiek verbonden vrouw genaamd Katie Jones nep was en waarschijnlijk een door de AI gegenereerde gezichtsafbeelding gebruikte om de con te verwijderen. Het nepprofiel is succesvol verbonden met tientallen politiek verbonden gebruikers.

Lees meer: Deze Deepfake van Mark Zuckerberg test het nep-videobeleid van Facebook

“Je kunt veel nep-personae genereren, gericht op het aanspreken van verschillende soorten mensen, en zien wie er bijt,” vertelde Lawrence Birnbaum, professor computerwetenschappen aan de Northwestern University, aan Motherboard in een e-mail. “Dit is waar computertechnologie echt de belangrijkste dingen doet op grote schaal.”

AI-gegenereerde gezichten voegen een laag onzekerheid toe aan mensen op dating-apps of online forums. Eerder was het mogelijk dat degene met wie je sprak een gestolen foto van iemand anders gebruikte, maar die foto moest van iemand zijn. Met die kennis zou je een omgekeerd beeldonderzoek kunnen gebruiken om te achterhalen waar die foto’s vandaan kwamen, zodat je kunt opzoeken wie jou aan het bevriezen was. Met door AI gegenereerde gezichten kon je ze waarschijnlijk niet op deze manier traceren.

Deze gezichten worden ook steeds meer beschikbaar. Het enige dat u hoeft te doen, is naar een website gaan die nieuwe gezichten maakt telkens wanneer u deze vernieuwt. De website, thispersondoesnotexist.com genaamd, is afhankelijk van een type machine learning genaamd Generative Adversarial Networks of GAN’s. Deze programma’s evalueren een enorme dataset van afbeeldingen – in dit geval menselijke gezichten – en ‘leren’ hoe ze nieuwe kunnen genereren. De website maakt gebruik van de GAN-code die vorig jaar door chipmaker Nvidia werd vrijgegeven.

Het eindigt ook niet met menselijke gezichten. Meer websites die gebruikmaken van open source GAN-code duiken de hele tijd op, ook degenen die valse huurvermeldingen en katten maken . Iemand met tijd aan hun handen zou een datingsprofiel kunnen maken met door AI gegenereerde foto’s van zichzelf, hun appartement en hun huisdier.

“Het lijkt het gebruikelijke traject van nieuwe technologie te volgen”, vertelde Maurice Turner, een senior technoloog bij het Centrum voor Democratie en Technologie, aan Motherboard. “Het gaat van onderzoek tot betaalde online diensten en binnenkort zullen we het zien als een app op de telefoons van mensen.”

In sommige opzichten is het er al. Vorige week gebruikte een mannelijke student in Californi√ę de gender-swap filter op Snapchat om een ‚Äč‚ÄčTinder-profiel te maken, dat zich voordeed als een minderjarig meisje . Hij gebruikte dit profiel om een ‚Äč‚Äčagent te werven en screenshots van zijn gesprekken naar de politie te sturen. Die agent werd gearresteerd op beschuldiging van communicatie met een minderjarige met het doel een misdrijf te plegen.

Zonder zorgvuldig onderzoek, bijvoorbeeld als je verstrooid scrolt door je feed met sociale media en gespecialiseerde kennis, kan het gemakkelijk zijn om te denken dat deze gefingeerde gezichten de echte deal zouden kunnen zijn.

“Zoveel afbeeldingen die we online zien, ondergaan al een niveau van verbetering of manipulatie via filters of smartphones,” zei Turner.

Terwijl betere technologie het moeilijker maakt om namaakgoederen te herkennen, zijn er nog een paar trucs om op te letten. Gezichten die met AI zijn gemaakt, kunnen vlekkerig of plaatselijk haar hebben, asymmetrie in het gezicht, niet goed uitgelijnde of vreemde maat tanden, verschillen in kleur rond de rand van een gezicht en over het algemeen schilderkunstige of surrealistische details. Bij video’s kan het handig zijn om op knipperen te letten, omdat deepfakes meestal minder vaak knipperen dan normale video’s. Geen van deze zijn fool-proof, maar zijn een goede plaats om te beginnen als je sceptisch bent.

Het is lang geleden dat de uitdrukking ‘zien is geloven’ water bevatte op internet. Nu, met gemakkelijk toegankelijke tools voor het maken van nep of gemanipuleerde gezichten, kunnen mensen beter en overtuigender liegen.

“We willen niet dat mensen zo sceptisch staan ‚Äč‚Äčtegenover elke interactie,” zei Turner. “We verliezen het vertrouwen in basiscommunicatie, online of persoonlijk.”

Luister naar CYBER , de nieuwe wekelijkse podcast van Motherboard over hacking en cyberbeveiliging.

Lees Meer