Deep Learning-Powered 'Fake Faces' zal Catfishing transformeren

Deep Learning-Powered 'Fake Faces' zal Catfishing transformeren

april 10, 2019 0 Door admin

 

Getty Images.

Getty

Catfishing en het gebruik van valse profielen om online te scams en mensen af ​​te persen is een ongelukkig feit geworden van ons moderne digitale leven. Zelfs gedetineerden van de gevangenis hebben dergelijke tactieken gebruikt om geld af te persen van Amerikaanse servicemembers. Toch is catfishing tot op zekere hoogte beperkt door zijn traditionele afhankelijkheid van reeds bestaande beelden en persona’s die zijn verduisterd van onschuldige gebruikersaccounts om de nep-katvisserijprofielen te creëren. Aangezien benaderingen van diep leren steeds meer het maken van volledig kunstmatige gezichten en stemmen mogelijk maken, naderen we snel een tijdperk waarin catfishing-risico’s de wereld van online daten overspoelen en worden gebruikt als een intelligentietool.

Geautomatiseerde benaderingen voor het genereren van volledig kunstmatige menselijke beelden zijn de afgelopen decennia enorm verbeterd, van primitieve systemen die alleen nuttig zijn voor het maken van achtergrondpersonages in grote menigten tot geavanceerde systemen die nep-menselijke gezichten kunnen genereren die bijna niet te onderscheiden zijn van foto’s .

Recent werk van Nvidia, hieronder weergegeven, trok vorig jaar aanzienlijke aandacht voor het griezelige realisme van zijn volledig kunstmatige gezichten en de mate van controle die het biedt over hun uiterlijk, waardoor het mogelijk wordt om gezichten te creëren die elke demografische achtergrond en leeftijd weerspiegelen.

Hoewel de resulterende beelden nog steeds lastige onvolkomenheden bevatten die het weggegeven oog weggeven, is de gemiddelde persoon waarschijnlijk niet in staat om zelfs de beelden van de huidige generatie te onderscheiden van echte foto’s, vooral niet wanneer ze op het kleine scherm van een mobiel apparaat worden bekeken de go.

Dergelijke beelden vormen een bijzonder unieke bedreiging in de toepasbaarheid ervan op catfishing. In plaats van opnieuw gebruikte afbeeldingen op internet, die vaak kunnen worden ontmaskerd door een omgekeerde Google Image-zoekopdracht, resulteren beelden die zijn gemaakt met behulp van deep learning-technieken zoals generatieve adversariale netwerken in volledig nieuwe beelden die nog nooit eerder hebben bestaan.

Het vermogen om snel demografisch aangepaste valse gezichtsbeelden te creëren, is bijzonder gevaarlijk in het vermogen om catfishing te transformeren van een “hit-of-miss” -operatie die op schaal werkt tot een zeer gericht proces. Je zou je een geautomatiseerde cataloogoperatie kunnen voorstellen die massaal toezicht houdt op sociale media en online datingplatforms, waarbij de foto’s en berichten van een gericht individu worden doorgenomen om een ​​gedetailleerde biografie van hun interesses samen te stellen. Er kan een kunstmatige liefdesbelang worden geconstrueerd dat perfect is afgestemd op hun interesses, maar alleen bestaat in de code van het neurale netwerk dat het heeft gemaakt. De kunstmatige persona kan zelfs worden afgebeeld in activiteiten die worden genoten door het doelwit, van wandelen in de buitenlucht tot discotheek dansen.

Vooruitgang in conversationele AI en spraaksynthese zijn bijna het punt waarop een dergelijke kunstmatige entiteit zelfs een vluchtig telefoongesprek met de betreffende persoon zou kunnen aangaan en ze flirterige video’s zou sturen om de poppenkast te voltooien. Het genereren van tekst kan gemakkelijk een stroom chatberichten en berichten produceren voor consumptie door het doelwit.

Naarmate de relatie vordert, kan de digitale creatie een gestage stroom nieuwe content plaatsen om te bewijzen dat het een ‘echte’ persoon is, zoals het compositeren van zichzelf in een foto van een coffeeshop die wordt aanbevolen door het doelwit en hen te bedanken voor het voorstellen van zo’n prachtige plek . Het vermogen om vloeiend te reageren en een voortdurende stroom nieuwe beelden te genereren, aangepast aan het huidige gesprek, zou dergelijke digitale bedriegers bijna onmogelijk te detecteren zijn.

Als eenmaal een overtuigende relatie tot stand is gebracht, kunnen alle traditionele monetaire of andere afpersingsmethodieken van catfishing worden toegepast.

In tegenstelling tot traditionele catfishing-oefeningen die een behoorlijke mate van menselijke tussenkomst van de oplichters vereisen, zou deze nieuwe vorm van catfishing volledig op een platformschaal kunnen worden geautomatiseerd.

Stel je een buitenlandse overheid voor die op zoek is naar LinkedIn voor elk DC-gebaseerd individu dat werkt voor de overheid, een defensie-aannemer of welke terminologie dan ook in hun cv vermeldt die toegang tot gevoelige informatie suggereert. Al deze accounts kunnen worden vergeleken met sociale media-accounts en datingprofielen van individuen. Diepgaande algoritmen zouden de perfecte liefdesbelangen voor elk van die honderdduizenden mensen kunnen construeren, compleet met jarenlange foto’s die teruggaan tot hun vroege studententijd en een persoonlijkheid en benadering van het leven laten zien die niet perfecter kon passen bij de beoogde persoon . Omdat liefde niet altijd de verwachting volgt, kunnen honderden alternatieven voor elke persoon worden gecreëerd, elk ontworpen om een ​​andere weg naar het hart van het individu te proberen. Wanneer er uiteindelijk een match wordt gevonden en voldoende compromitterende informatie wordt verzameld door de bot, kan het account worden overgedragen aan een manager voor menselijke intelligentie om het doel in een intelligence-bron, een financieringsstroom om te zetten of de informatie bekend te maken om een ​​overheidsinstantie te saboteren op een kritieke locatie. moment.

Geen van deze vertegenwoordigt een verre science fiction, maar eerder het echte heden.

Als we dit alles bij elkaar brengen, terwijl we nadenken over het groeiende risico van door kunstmatige intelligentie gegenereerde kunstmatige beelden, is catfishing en gerelateerde online afpersing een gebied dat we zorgvuldig moeten overwegen.

Op het einde, zoals de plot van velen een science fiction-roman, kan het niet zo lang duren voordat we geen onderscheid meer kunnen maken tussen mensen en machines online.

“>

Catfishing en het gebruik van valse profielen om online te scams en mensen af ​​te persen is een ongelukkig feit geworden van ons moderne digitale leven. Zelfs gedetineerden van de gevangenis hebben dergelijke tactieken gebruikt om geld af te persen van Amerikaanse servicemembers. Toch is catfishing tot op zekere hoogte beperkt door zijn traditionele afhankelijkheid van reeds bestaande beelden en persona’s die zijn verduisterd van onschuldige gebruikersaccounts om de nep-katvisserijprofielen te creëren. Aangezien benaderingen van diep leren steeds meer het maken van volledig kunstmatige gezichten en stemmen mogelijk maken, naderen we snel een tijdperk waarin catfishing-risico’s de wereld van online daten overspoelen en worden gebruikt als een intelligentietool.

Geautomatiseerde benaderingen voor het genereren van volledig kunstmatige menselijke beelden zijn de afgelopen decennia enorm verbeterd, van primitieve systemen die alleen nuttig zijn voor het maken van achtergrondpersonages in grote menigten tot geavanceerde systemen die nep-menselijke gezichten kunnen genereren die bijna niet te onderscheiden zijn van foto’s .

Recent werk van Nvidia, hieronder weergegeven, trok vorig jaar aanzienlijke aandacht voor het griezelige realisme van zijn volledig kunstmatige gezichten en de mate van controle die het biedt over hun uiterlijk, waardoor het mogelijk wordt om gezichten te creëren die elke demografische achtergrond en leeftijd weerspiegelen.

Hoewel de resulterende beelden nog steeds lastige onvolkomenheden bevatten die het weggegeven oog weggeven, is de gemiddelde persoon waarschijnlijk niet in staat om zelfs de beelden van de huidige generatie te onderscheiden van echte foto’s, vooral niet wanneer ze op het kleine scherm van een mobiel apparaat worden bekeken de go.

Dergelijke beelden vormen een bijzonder unieke bedreiging in de toepasbaarheid ervan op catfishing. In plaats van opnieuw gebruikte afbeeldingen op internet, die vaak kunnen worden ontmaskerd door een omgekeerde Google Image-zoekopdracht, resulteren beelden die zijn gemaakt met behulp van deep learning-technieken zoals generatieve adversariale netwerken in volledig nieuwe beelden die nog nooit eerder hebben bestaan.

Het vermogen om snel demografisch aangepaste valse gezichtsbeelden te creëren, is bijzonder gevaarlijk in het vermogen om catfishing te transformeren van een “hit-of-miss” -operatie die op schaal werkt tot een zeer gericht proces. Je zou je een geautomatiseerde cataloogoperatie kunnen voorstellen die massaal toezicht houdt op sociale media en online datingplatforms, waarbij de foto’s en berichten van een gericht individu worden doorgenomen om een ​​gedetailleerde biografie van hun interesses samen te stellen. Er kan een kunstmatige liefdesbelang worden geconstrueerd dat perfect is afgestemd op hun interesses, maar alleen bestaat in de code van het neurale netwerk dat het heeft gemaakt. De kunstmatige persona kan zelfs worden afgebeeld in activiteiten die worden genoten door het doelwit, van wandelen in de buitenlucht tot discotheek dansen.

Vooruitgang in conversationele AI en spraaksynthese zijn bijna het punt waarop een dergelijke kunstmatige entiteit zelfs een vluchtig telefoongesprek met de betreffende persoon zou kunnen aangaan en ze flirterige video’s zou sturen om de poppenkast te voltooien. Het genereren van tekst kan gemakkelijk een stroom chatberichten en berichten produceren voor consumptie door het doelwit.

Naarmate de relatie vordert, kan de digitale creatie een gestage stroom nieuwe content plaatsen om te bewijzen dat het een ‘echte’ persoon is, zoals het compositeren van zichzelf in een foto van een coffeeshop die wordt aanbevolen door het doelwit en hen te bedanken voor het voorstellen van zo’n prachtige plek . Het vermogen om vloeiend te reageren en een voortdurende stroom nieuwe beelden te genereren, aangepast aan het huidige gesprek, zou dergelijke digitale bedriegers bijna onmogelijk te detecteren zijn.

Als eenmaal een overtuigende relatie tot stand is gebracht, kunnen alle traditionele monetaire of andere afpersingsmethodieken van catfishing worden toegepast.

In tegenstelling tot traditionele catfishing-oefeningen die een behoorlijke mate van menselijke tussenkomst van de oplichters vereisen, zou deze nieuwe vorm van catfishing volledig op een platformschaal kunnen worden geautomatiseerd.

Stel je een buitenlandse overheid voor die op zoek is naar LinkedIn voor elk DC-gebaseerd individu dat werkt voor de overheid, een defensie-aannemer of welke terminologie dan ook in hun cv vermeldt die toegang tot gevoelige informatie suggereert. Al deze accounts kunnen worden vergeleken met sociale media-accounts en datingprofielen van individuen. Diepgaande algoritmen zouden de perfecte liefdesbelangen voor elk van die honderdduizenden mensen kunnen construeren, compleet met jarenlange foto’s die teruggaan tot hun vroege studententijd en een persoonlijkheid en benadering van het leven laten zien die niet perfecter kon passen bij de beoogde persoon . Omdat liefde niet altijd de verwachting volgt, kunnen honderden alternatieven voor elke persoon worden gecreëerd, elk ontworpen om een ​​andere weg naar het hart van het individu te proberen. Wanneer er uiteindelijk een match wordt gevonden en voldoende compromitterende informatie wordt verzameld door de bot, kan het account worden overgedragen aan een manager voor menselijke intelligentie om het doel in een intelligence-bron, een financieringsstroom om te zetten of de informatie bekend te maken om een ​​overheidsinstantie te saboteren op een kritieke locatie. moment.

Geen van deze vertegenwoordigt een verre science fiction, maar eerder het echte heden.

Als we dit alles bij elkaar brengen, terwijl we nadenken over het groeiende risico van door kunstmatige intelligentie gegenereerde kunstmatige beelden, is catfishing en gerelateerde online afpersing een gebied dat we zorgvuldig moeten overwegen.

Op het einde, zoals de plot van velen een science fiction-roman, kan het niet zo lang duren voordat we geen onderscheid meer kunnen maken tussen mensen en machines online.

Lees Meer