Bangkok, Thailand - July 14th, 2019: Facebook signup web page app on smart phone Samsung Galaxy S10 with user sign in registration screen using social networking and computer notebook from anywhere office.

Met een afgeschermd botplatform op de socialemediawebsite onderzoekt Facebook gedrag van trolls en oplichters om zo misbruik tegen te gaan.

De schandalen rond Cambrigde Analytica in 2018 hebben Facebook aangezet tot actie. Kort na het nieuws rond misbruik op de socialenetwerksite bevestigde oprichter Mark Zuckerberg dat hij de problemen op zijn platform zou aanpakken. Verschillende maatregelen werden ondertussen gelanceerd. Vandaag stellen onderzoekers van Facebook een nieuw pilootproject voor. Dat meldt het bedrijf in een paper op Facebook Research.

Concreet wilt het bedrijf een platform voor bots bouwen die het gedrag trolls en oplichters simuleren. Zo wilt Facebook uiteindelijk ongewenste profielen beter kunnen opsporen en monitoren. Dit gebeurt met een “Web Enabled Simulation” (WES), een soort schaduw-Facebook waarop niet-bestaande gebruikers kunnen liken, delen en vriendschapsverzoeken sturen. De WES wordt uitgevoerd in een aparte omgeving op de site die verder is afgeschut voor gewone gebruikers.

Simulatie van gebruikersgedrag

Met een afgeschermde simulatie op kleine schaal roept Facebook bots in het leven die ongewenst gedrag vertonen. Een ‘oplichter’-bot kan bijvoorbeeld worden getraind om verbinding te maken met ‘doelwit’-bots. Andere bots kunnen dan worden opgeleid om de privacy van andere bots te schenden. Ze kunnen ook ‘foute’ content zoeken die de regels van het platform overtreedt.

Hoewel Facebook al langer simulaties gebruikt voor onderzoek, is deze aanpak uniek. De vorige simulaties waren gebaseerd op een Facebook-mockup. Met de nieuwe “Web Enabled Simulation” werken de onderzoekers in een omgeving die veel dichter aansluit bij het platform zelf. Zo zouden sommige bots toegang krijgen om Facebook zelf te scannen en te leren van echte gebruikers. Daarbij krijgen ze geen toegang tot informatie die niet strookt met de privacyregels.

Fouten opsporen

De nieuwe simulatie van Facebook zou het bedrijf ook toelaten om bugs in de site sneller op te sporen. Zo worden er bijvoorbeeld WES-bots gebouwd die erop gericht zijn data te vergaren van andere gebruikers. Als deze bots plots een manier vinden om meer gegevens te stelen na een systeemupdate, kan dat een fout in de code blootleggen. Door deze afwijkingen te monitoren, kan Facebook voorkomen dat zo’n bug door echte gebruikers wordt uitgebuit.

Het bedrijf benadrukt verder dat interactie tussen de botomgeving en het echte platform niet de bedoeling is. “Bots moeten voldoende geïsoleerd zijn van echte gebruikers om ervoor te zorgen dat de simulatie, hoewel die wordt uitgevoerd op echte platformcode, niet leidt tot onverwachte interacties tussen bots en echte gebruikers.”

LAAT EEN REACTIE ACHTER

Please enter your comment!
Please enter your name here