X laat Community Notes door AI schrijven
Concreet lanceert X, het voormalige Twitter dat werd overgenomen door Elon Musk, tools waarmee zogenoemde “AI Note Writers” ontwikkeld kunnen worden. Die kunnen in een testmodus antwoorden formuleren om berichten op het platform te corrigeren of te voorzien van extra context. Community Notes die geschreven zijn door AI moeten wel eerst nog goedgekeurd worden alvorens ze effectief gepubliceerd worden.
Door de introductie van AI Note Writers hoopt X het systeem van Community Notes verder te verbeteren. Met behulp van AI zou veel sneller en veel meer aan factchecking gedaan kunnen worden. Bovendien zou AI ook minder gekleurd te werk gaan en kan het systeem zichzelf gaandeweg blijven verbeteren, wat volgens X een “powerful feedback loop” creëert.
AI controleert AI
In eerste instantie lijken de AI Notes gecontroleerd te worden door een ander geautomatiseerd systeem dat open-source beschikbaar is. Deze AI-evaluator bekijkt of een AI Note qua compositie overeenstemt met wat een Community Note hoort te zijn. Er wordt bijvoorbeeld gekeken of de notitie relevant is voor het onderwerp in kwestie en of er geen schadelijke zaken gezegd worden die onder misbruik of intimidatie kunnen vallen. Daarvoor wordt een beroep gedaan op historische Community Notes-data.
Doorstaat een AI Note deze eerste evaluatie, dan wordt het verder behandeld als een gewone Community Note. Op basis van een score van andere bijdragers en de bredere community wordt dan bepaald of de notitie of effectief openlijk zichtbaar wordt. In die zin maakt X zich sterk dat ook bij AI Notes mensen uiteindelijk aan het roer blijven staan. Community Notes die werden gerealiseerd met behulp van AI, krijgen in het kader van transparantie wel een aanduiding die toont dat ze door AI geschreven zijn.
Testfase en kritiek
De AI Note Writers zitten zoals gezegd nog in een testfase. Deze maand zullen de eerste AI-notities geschreven en gepubliceerd worden, in eerste instantie enkel voor berichten waarvoor een Community Notes-verzoek is aangevraagd vanuit de community. In de toekomst wil X de AI Note Writers echter breder inschakelen en mogelijk meer autonomie geven zodat factchecking op het platform sneller en grondiger kan gebeuren.
Met AI Note Writers kan X mogelijk een van de grootste tekortkomingen van het huidige systeem aanpakken. De huidige Community Notes verschijnen vaak immers rijkelijk laat, nadat een bericht met flagrante desinformatie al viraal is gegaan, of er verschijnen helemaal geen correcties omdat een Community Note onvoldoende stemmen krijgt. Nog een kritiek is dat Community Notes niet meer zijn dan een notitie die bij een bericht geplaatst wordt. Het bericht zelf wordt niet aangepast of verwijderd, waardoor desinformatie zich nog steeds kan verspreiden. Daar lijken de nieuwe AI-notities niet meteen iets aan te gaan veranderen.
