Google Discover slaat bal compleet mis met AI-titels
Af en toe stuiten we op de limieten van wat AI kan en dat is opnieuw het geval. Google heeft een test uitgevoerd waarbij het in Discover titels door AI laat genereren. Dat leverde blijkbaar pijnlijke resultaten op, zo ontdekte The Verge. De bewerkte titels waren op zijn zachtst gezegd misleidend te noemen.
Google levert gebruikers via Discover resultaten die ze zullen willen zien, zonder te moeten zoeken. Het zijn de suggesties die je ziet verschijnen op je smartphone over onderwerpen die je nauw aan het hart liggen. Met andere woorden, Discover stelt berichten voor aan de hand van je interesses en zoekgedrag. Op je Android-telefoon kun je daarvoor naar links swipen op het standaardscherm om de Discover-suggesties te zien of de Google-app openen.
Discover AI verzint titels
The Verge noemde een aantal van die door AI aangepaste titels. Zo zagen ze “Steam Machine price revealed” in de plaats van het originele “Valve’s Steam Machine looks like a console, but don’t expect it to be priced like one” op Ars Technica. Klein probleempje: die prijs is helemaal nog niet bekend. “Microsoft developers using AI” was een tweede. Die verving het originele “How Microsoft’s developers are using AI” en had dus eigenlijk de belangrijkste woorden weggehaald. Zo werd een titel compleet nutteloos.
Problematischer waren de volgende voorbeelden: “‘Child labor is unbeatable’: Baldur’s Gate 3 players discover how to build an army of unkillable kids through the power of polymorph and German media laws” had Google ingekort tot het compleet verzonnen “BG3 players exploit children”. Van kinderuitbuiting was namelijk geen sprake, het ging over een gameplaytactiek. Op 9to5Google stond te lezen “Don’t buy a Qi2 25W wireless charger hoping for faster speeds – just get the ‘slower’ one instead” maar dat werd dan weer “Qi2 slows down older Pixels”. Ook hier zette Discover zijn gebruikers weer op de verkeerde voet. De neiging naar echt korte hoofdpunten leidt duidelijk tot fouten.
Google: “Was experiment”
In een reactie aan The Verge had Google gemeld dat het om een experiment ging. Bovendien zou het maar een beperkt aantal gebruikers eraan blootgesteld hebben. De bedoeling zou zijn om mensen sneller een beeld te geven van het onderwerp van een artikel. Dat is duidelijk niet gelukt bij een groot aantal van de herwerkte hoofdpunten, aangezien ze de essentie compleet niet vatten. In de zoektocht naar meer gebruiksgemak gaat Google voorbij aan het feit dat redacteurs effectief moeite, kennis en expertise stoppen in hun titels. Daarmee willen ze de juiste nuance geven. Die verdwijnt met één automatisch AI-commando helemaal naar de achtergrond.
