Google lanceert open-source tool voor journalisten die pesterijen filtert
De wereld van sociale media kan heel leuk zijn, maar kent helaas ook een donkere kant. Mensen die afhankelijk zijn van deze sociale media krijgen binnenkort een extra manier om zich een weg doorheen alle negativiteit te banen. Jigsaw, een onderdeel van Google, lanceert Harassment Manager. Dat meldt techsite The Verge in een bericht. Dit is een nieuwe tool die gebruikers in staat stelt om agressieve en beledigende commentaren te documenteren of verbergen. De tool is gericht op journalisten, publieke figuren en activisten, zodat zij ongestoord met hun werk verder kunnen.
Momenteel wordt de applicatie enkel als open-sourcecode uitgebracht. Zo kunnen ontwikkelaars deze code zelf gebruiken om hun eigen versie van de tool te maken. Jigsaw werkt momenteel wel met partners, waaronder de Thomson Reuters Foundation. In juni krijgen de journalisten van die organisatie een afgewerkte webapp.
De Harassment Manager werkt momenteel samen met Twitter. Perspective, een AI-tool van Google, detecteert comments op het platform die mogelijk als schadelijk gezien kunnen worden. Deze worden onderverdeeld in drie verschillende categorieën, zijnde Zeer schadelijk, Mogelijk schadelijk en Onbekend. De comments kunnen dan door de gebruikers samen verwerkt worden. Men kan ze documenteren of verbergen, en daarnaast ook de plaatsers van deze comments blokkeren.
Jigsaw
Jigsaw traint Perspective naar verluidt al sinds 2017. Hierbij kreeg de software een stroom aan haatdragende commentaren te verwerken die door menselijke moderatoren als schadelijk werden aangeduid. De software is niet bedoeld ter moderatie van de platformen, zo meldt The Verge. Hij zou eerder bedoeld zijn om de gigantische schaal aan berichten beter te kunnen plaatsen.
Jigsaw is een aparte afdeling binnen Google. Hiermee gaat het bedrijf op zoek naar uitdagingen binnen de maatschappij die een impact kunnen hebben op bepaalde groepen, waaronder journalisten en activisten. Zo willen ze foutieve informatie, censuur, onlinehaat en extremisme aanpakken, en dit met allerlei tools en databanken.
De komst van de software lijkt een mooie toevoeging aan de tools waarmee journalisten en publieke figuren zich doorheen sociale media kunnen begeven. We kijken alvast uit naar de verdere ontwikkelingen van deze functies.
