5 februari 2024 15:11

Bumble gaat nepprofielen te lijf met AI-tool

Datingapp Bumble gaat aan de slag met AI om nepprofielen te detecteren. Dit doet het onder de noemer Deception Detector.

AI moet nep-, scam- en spamprofielen makkelijker detecteerbaar maken, meldt Bumble. De eerste resultaten van de Deception Detector-tool zijn alvast hoopvol: de tool wist 95% van de nepprofielen te detecteren. Tijdens de testfase daalde het aantal meldingen van spam- en scamaccounts met 45%. De vraag is uiteraard wel hoe dat op de lange termijn uitpakt. Vaak worden zulke tools na implementatie gevolgd door tegenacties van frauduleuze gebruikers, die de tool proberen te omzeilen.

Of dat met AI gaat lukken, is onzeker. AI kan zich echter mettertijd aanpassen aan de gedragingen van nepaccounts. Hiervoor gebruikt Bumble een Machine Learning-model. Naast de AI-maatregelen blijft Bumble gebruikmaken van menselijke controles.

Toename van ‘romance scams’

Volgens Bumble is het instellen van zulke AI-controles van groot belang. Het moet ervoor zorgen dat de vrouwelijke gebruikers op Bumble kunnen vertrouwen dat ze praten met een authentieke gebruiker. Juist dat is wat vrouwelijke gebruikers van datingapps doet wantrouwen, zegt de dienst op basis van eigen onderzoek onder vrouwen. 46 procent van de ondervraagde vrouwen zegt “ongerust te zijn” over de authenticiteit van hun matches.

Die zorgen zijn zeker niet ongegrond. Onderzoek van de Amerikaanse markttoezichthouder FTC wees uit dat de slachtoffers van zogeheten ‘romance scams’ in 2021 547 miljoen dollar schade leden; een stijging van 80 procent ten opzichte van 2020.

AI moet vertrouwen redden

Bumble-CEO Lidiane Jones stelt dat het AI-tijdperk de roep om vertrouwen ook versterkt. Dit komt doordat kwade actoren AI ook kunnen inzetten om hun fraudeprocessen te versnellen en geautomatiseerd accounts aan te maken.

“Met een speciale focus op de online ervaring van vrouwen erkennen we dat in het AI-tijdperk vertrouwen belangrijker is dan ooit. We denken na over hoe we het beste nieuwe modellen kunnen gebruiken om de angst voor het maken van connecties te verminderen en onze gemeenschap te ondersteunen, waarbij AI een belangrijk aandachtspunt is”, zegt Jones.