BBC klaagt bij Apple nadat AI fake nieuws verspreidt
BBC, de publieke omroep van het Verenigd Koninkrijk, heeft geklaagd bij Apple. Het AI-systeem dat Apple sinds kort in iPhones inbouwt, verspreidt namelijk fake nieuws. Wie alleen de AI-samenvatting van het nieuws zou lezen, krijgt daardoor verzinsels aangereikt.
De BBC klaagde nadat Apple Intelligence, zoals Apple het aanbod aan AI-functies in iOS noemt, vorige week een fout beging. Hoewel de software nog maar net beschikbaar is in het Verenigd Koninkrijk, stootte het AI-systeem al tegen de schenen van de publieke omroep. Apple gebruikt het systeem onder andere om meldingen samen te vatten. Dat is vooral handig als er meerdere meldingen gegroepeerd staan, zoals voor nieuwsapps wel vaker het geval is. Het ingebouwde AI-systeem vat alle headlines samen zodat ze in 1 melding passen die gebruikers kunnen uitklappen.
Foute AI-samenvatting
Eerder deze maand haalde een moord in Amerika het wereldnieuws. De klopjacht naar de moordenaar van UnitedHealthcare-CEO Brian Thompson eindigde met de arrestatie van Luigi Mangione in een McDonalds-filiaal. De BBC publiceerde dat nieuws en stuurde er een pushmelding over uit. Bij de nieuwsoutlet merkten ze echter dat de headline verkeerd werd samengevat door Apple Intelligence. In de AI-samenvatting stond namelijk te lezen dat Luigi Mangione zichzelf had neergeschoten, maar dat is niet het geval.
Een woordvoerder zegt dat “BBC het meest vertrouwde nieuwsmedium ter wereld is”. De omroep vindt het dan ook cruciaal dat het publiek kan vertrouwen in de informatie en journalistiek die de BBC verspreidt. “Notificaties horen daarbij,” zegt de BBC daar zelf over. De omroep wijst er verder op dat ook de New York Times dit meemaakte. Daar werd een nieuwsbericht over het arrestatiebevel voor Benjamin Netanyahu vervormd naar een headline over de arrestatie van de Israëlische premier.
Het voorval toont nog maar eens aan dat AI het niet altijd bij het rechte eind heeft en dat je niet zomaar op AI-content kan vertrouwen. Eerder ging een AI-systeem van Google ook al in fout met het samenvatten van zoekresultaten. Google schaafde de tool bij en zorgde ervoor dat die in minder gevallen verscheen, zodat die ook minder vaak in de fout kon gaan.
