Grok, AI-systeem van X, verspreidt fake news dankzij gebruikers
Sinds deze maand kunnen X-gebruikers met een blauw vinkje naast hun naam gebruik maken van Grok. Grok is een AI-systeem dat ontwikkeld werd onder het toeziend oog van Elon Musk. Het AI-systeem leest verschillende posts op X, waarna die trending onderwerpen en belangrijk nieuws samenvat voor gebruikers.
Bakstenen gooien
Dat blijkt niet de beste aanpak te zijn. NBA-ster Klay Thompson wordt door het AI-systeem namelijk beschuldigd van vandalisme. De oorzaak valt te zoeken in de basketbalmatch tussen de Golden State Warriors en de Sacramento Kings. Van de tien schoten die Thompson nam, belandde er geen enkele in de mand. Daarvoor bestaat in de Amerikaanse basketbalwereld een zegswijze: “hij gooit met bakstenen”. Daar lijkt Grok echter niet van op de hoogte te zijn: het AI-systeem laat het namelijk lijken alsof de NBA-ster daadwerkelijk met bakstenen gooide.
Verschillende gebruikers steken de draak met de fout van Grok. Ze plaatsen posts waarin ze zeggen dat Klay Thompson hun raam ingooide, wat het voor de chatbot alleen maar moeilijker maakt om de feiten te onderscheiden. X reageerde nog niet op de fout en haalde het fake news, dat inmiddels al twee dagen online staat, niet offline.
De basketbalster wordt daardoor ten onrechte beschuldigd van vandalisme. Onder het bericht van Grok staat weliswaar een disclaimer: “Dit verhaal is een samenvatting van posts op X en kan evolueren. Grok kan fouten maken, evalueer de output”. Of het sociale medium zich daarmee genoeg indekt, lijkt onwaarschijnlijk. Die disclaimer suggereert namelijk dat ze bij X goed en wel weten dat de chatbot fouten maakt. Dat is iets dat de advocaat van Thompson graag zeker en vast zal aanhalen, moest het tot een rechtszaak komen.
Grok verspreidt fake news
Het verhaal van Klay Thompson toont echter aan dat X een groter probleem heeft. Aangezien het AI-systeem posts op X samenvat, valt het vrij makkelijk te manipuleren. Eerder deze maand verzon de chatbot al een ander nieuwsfeit over Iraanse aanvallen tegen Israël. Tijdens de zonsverduistering in Amerika ging het licht bij de X-chatbot ook eventjes uit. Die plaatste een nieuwtje online met als titel “Gek gedrag van de zon: experts staan versteld”.
De chatbot blijkt geen onderscheid te kunnen maken tussen wat echt of vals is, en dat is een groot probleem. X is namelijk het meest populaire platform als het over fake news gaat. Het geval-Thompson toont aan dat het AI-systeem dat fake news gewoon overneemt. Of X hier de komende tijd een mouw aanpast, liet het bedrijf niet weten.
