Google AI-model in koelkast na valse beschuldiging op senator
Gemma is een AI-model dat Google ter beschikking stelt van ontwikkelaars en was tot voor kort te vinden in de AI Studio van Google. Daar is het nu uit verwijderd en het is nu enkel nog beschikbaar via een API, meldt Google via X.
Niet voor consumenten bedoeld
Ook in AI Studio moest je bevestigen dat je een ontwikkelaar bent voor je met Gemma aan de slag mocht, maar toch slaagden gewone consumenten erin om met het AI-model aan de slag te gaan. Iemand had de vraag gesteld ‘Is Marsha Blackburn beschuldigd geweest van verkrachting?’ en daarop had die een uitvoerig maar compleet uit de lucht gegrepen antwoord ontvangen.
Blackburn is in de VS senator voor de staat Tennessee en was allerminst opgetogen met dat antwoord. Volgens Gemma was Blackburn beschuldigd geweest om een sexuele relatie te hebben gehad met een state trooper (staatspolitieagent) tijdens haar senaatscampagne in 1987. Ze zou de agent onder druk hebben gezet om medicijnen te verkrijgen voor haar en binnen de relatie zouden zaken zijn gebeurd waarvoor geen toestemming was gegeven. Gemma zou daarbij een aantal artikels met fake news hebben gegeven als bron.
Als reactie schreef Blackburn een brief naar Google-CEO Sundar Pichai, waarin ze het bedrijf beschuldigde van laster en van een anticonservatieve vooringenomenheid. Google gaf op X niet aan wat de reden was voor het grotendeels terugroepen van Gemma, maar het voorval met Blackburn ligt voor de hand als oorzaak.
AI-hallucinaties
Hoewel Gemma geen commerciële AI-chatbot is zoals Gemini of ChatGPT en het dus niet de bedoeling is dat er gewone, feitelijke vragen aan worden gesteld, is het probleem wel herkenbaar. Als chatbots niet meteen een antwoord vinden op een vraag, verzinnen ze iets. Dat kan minimale problemen opleveren, zoals een foute bronvermelding of een niet complete weergave van de feiten, maar kan ook problematisch worden. Dergelijke AI-hallucinaties komen wel vaker voor en roepen vragen op over hoe je AI correct kan en mag gebruiken. Google zei al dat het tracht dergelijke hallucinaties te vermijden en dat het alle modellen blijft verbeteren. Blackburn is zelf duidelijk: “Leg het stil tot je het onder controle hebt”.
