OnePlus noemt Chinese politieke censuur in eigen AI een ‘bug’
Het is zeker niet de eerste keer dat een AI-systeem kampt met censuur. Met name Chinese AI-chatbots, inclusief het populaire DeepSeek, passen strenge censuur toe om aan Chinese wet- en regelgeving te voldoen. In het westen zijn zulke maatregelen echter not done, en toch bleek vorige week dat OnePlus’ AI-tools censuur toepassen.
Vragen over Chinese politieke onderwerpen of Indiase regio’s, gericht aan OnePlus’ AI-schrijftools, bleven onbeantwoord. Gebruikers kregen simpelweg een foutmelding te zien, zonder enige verdere uitleg. In een reactie benadrukt OnePlus nu dat de censuur onbedoeld wordt toegepast en er sprake is van “technische inconsistenties”, wat er dus toe zou leiden dat bepaalde vragen geweerd worden.
Chinese AI-modellen?
Een medewerker van OnePlus’ softwareteam geeft net iets meer inzicht in wat er potentieel speelt. Volgens de medewerker gebruikt het AI-systeem een mix van LLM’s om je verzoeken te beantwoorden, en hij lijkt ook te suggereren dat het probleem daar vandaan komt.
Welke AI-modellen OnePlus precies gebruikt, laat de medewerker nog in het midden. Bekend is dat OnePlus hiervoor onder meer samenwerkt met Gemini (Google). Het is denkbaar dat er daarnaast ook wordt samengewerkt met grote Chinese AI-bedrijven, gezien de fabrikant in China gevestigd is. Mocht de censuur van zo’n AI-systeem niet correct worden afgehandeld, dan kan dat er zomaar toe leiden dat gevoelige politieke onderwerpen niet behandeld kunnen worden.
Natuurlijk is het daarnaast ook mogelijk dat OnePlus zijn eigen AI-guardrails heeft om bepaalde vragen te blokkeren. Gezien het een Chinees bedrijf is, moet het immers voldoen aan lokale regelgeving over censuur.
OnePlus zet AI op pauze
OnePlus erkent inmiddes dat zijn AI-systemen vastlopen bij bepaalde vragen. Om die reden heeft het zijn AI-schrijftool tijdelijk uitgeschakeld op al zijn telefoons. Meer specifiek zou dat het geval zijn in de Notes-app, maar volgens sommige gebruikers is dat het geval in vrijwel alle apps die ervan gebruikmaken, inclusief Instagram en Gmail.
Het gaat hier overigens om een tijdelijke maatregel, met de belofte dat er hard wordt gewerkt aan een oplossing.
