Google komt met nieuw beleid voor AI-apps in Play Store
Het nieuwe beleid van Google gaat in vanaf 2024. Alle apps die dan op één of andere manier generatieve AI-capaciteiten hebben, moeten een rapporteerknop in de app integreren. Deze knop zou ervoor moeten zorgen dat generatieve AI-systemen in apps geen aanstootgevende berichten sturen en dat AI-content veilig is. Als een AI-systeem gerapporteerd wordt, kunnen ontwikkelaars met die feedback aan de slag om de filters van het systeem te verbeteren. De rapporteerknop moet rechtstreeks in de app te vinden zijn, zodat je geen grote drempel over moet om een AI-systeem te rapporteren.
Het nieuwe beleid is van toepassing op drie verschillende soorten AI-apps. Om te beginnen zijn er de klassieke chatbots, die vooral tekst genereren. Die zullen zich, net als apps die beelden genereren van tekst, steminput of andere beelden, aan de nieuwe regelgeving moeten houden. Ook apps die valse stemmen genereren of die allerlei AI-effectjes op je selfies en andere opnames kan toepassen moeten zo’n rapporteerknop krijgen.
Toch bouwt Google een aantal uitzonderingen in. Zo zullen apps die AI-content laten zien, maar die niet zelf genereren, geen speciale knop moeten implementeren. Dient een app alleen maar om samenvattingen te maken? Dan zal je daar ook geen rapporteerknop in terugvinden. Hetzelfde geldt voor productiviteitsapps die AI integreren om je productiviteit nog verder te boosten: ook hier is geen extra rapporteerknop nodig.
Meer controle over output
De rapporteerknop moet het voor gebruikers makkelijk maken om aanstootgevende content aan te geven. Ontwikkelaars zouden daarna, doordat de knop zo makkelijk te bereiken is, met feedback aan de slag kunnen gaan om het AI-systeem wat bij te sleutelen. Op die manier houden ontwikkelaars meer controle over wat hun AI-app allemaal kan zeggen en wat niet.
Zo kunnen ze het AI-systeem ook sturen om met Googles AI-principes overeen te stemmen. Kan je AI-systeem gebruikt worden om scams mee uit te voeren? Genereert je AI fake news over de verkiezingen of schrijft die malware? Voor Google zijn het allemaal redenen om AI-apps regelrecht uit de Play Store te verbannen. De rapporteerknop moet ontwikkelaars meer mogelijkheden bieden om ervoor te zorgen dat het niet zo ver komt.
