Bumble zal AI gebruiken om automatisch ongevraagde naakten te censureren

Bumble zal AI gebruiken om automatisch ongevraagde naakten te censureren

april 25, 2019 0 Door admin

 

Hoewel dating-apps erop zijn gericht daten gemakkelijker te maken, hebben ze ook een groter risico op niet-consensuele interacties en nieuwe, gemakkelijke mogelijkheden voor daders om slachtoffers te targeten en te misbruiken. Of het nu gaat om een ​​beledigend bericht dat in je inbox staat, of een ongevraagd naaktbeeld van een compleet vreemde persoon, ‘verrassende’ foto’s zijn een al te gewone vorm van online seksuele intimidatie – maar Bumble detecteert straks ‘obscene’ afbeeldingen die worden verzonden zijn platform met behulp van AI.

Vanaf juni hebben gebruikers van dating-apps zoals Bumble, Badoo, Chappy en Lumen toegang tot de op AI-gebaseerde tool ‘Private Detector’. De tool, die naar verluidt 98 procent accuraat is in het spotten van naakten, waarschuwt gebruikers van een beeld dat het als “obsceen” of aanstootgevend beschouwt. Dit komt als onderdeel van een veiligheidsinitiatief van Bumble’s mede-oprichters om online dating veiliger te maken voor vrouwen, en geeft gebruikers de keuze om de afbeelding te bekijken, te blokkeren of te rapporteren aan de moderators van de app.

Dit is niet de eerste stap die Bumble heeft genomen om online dating vriendelijker te maken voor zijn gebruikers, vooral vrouwen. Op dit moment heeft Bumble de optie om alle afbeeldingen standaard te vervagen en gebruikers die afbeeldingsberichten ontvangen, moeten de foto ingedrukt houden om deze te bekijken. Nadat de afbeelding is onthuld, bevat deze ook een watermerk van het profiel van de afzender – deze methode tracht ongevraagde beledigende afbeeldingen te voorkomen, maar gebruikers kunnen gemakkelijk nep-accounts maken om er omheen te gaan.

Naast de nieuwe veiligheidstool van Bumble voert de CEO en mede-oprichter van de datingapp, Whitney Wolfe Herd, campagne om ongevraagde naaktfoto’s in de VS een misdrijf te maken met een strafbaar geldboete van maximaal $ 500 . Eerder dit jaar heeft het Britse ministerie van Binnenlandse Zaken voorbereidende stappen ondernomen om “online flitsen strafbaar te stellen . Volgens de wet wordt het beschouwd als “ onfatsoenlijke blootstelling ” om je naakte lichaam op straat te flitsen – en het moet niet online worden verontschuldigd.

TNW Conference 2019 komt eraan! Bekijk onze glorieuze nieuwe locatie, inspirerende line-up van sprekers en activiteiten en deel uitmaken van deze jaarlijkse technische bonanza door hier te klikken .

Lees verder: Waarom de cyberbeveiligingssector moet beginnen met het inhuren van meer hackers

Lees Meer